AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


QwQ-32B一键部署!真正的0代码,0脚本,0门槛

发布日期:2025-03-06 18:24:49 浏览次数: 2108 来源:阿里云开发者
推荐语

阿里云QwQ-32B模型0代码一键部署,让AI模型部署变得触手可及。

核心内容:
1. QwQ-32B模型性能介绍及其与DeepSeek-R1的对比
2. 阿里云一键部署方案OpenWebUI+Ollama的详细步骤
3. 本地部署QwQ-32B的ECS配置要求及操作系统版本建议

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家

阿里云发布的最新模型QwQ-32B,通过强化学习大幅度提升了模型推理能力。模型数学代码等核心指标(AIME 24/25、livecodebench)以及部分通用指标(IFEval、LiveBench等)达到DeepSeek-R1 满血版水平,各指标均显著超过同样基于 Qwen2.5-32B 的 DeepSeek-R1-Distill-Qwen-32B。

阿里云系统运维管理(OOS)的公共扩展功能为您提供了一键部署OpenWebUI+Ollama的便捷方案,让您轻松部署QwQ-32B模型到阿里云ECS。另外,您也可以连接阿里云百炼的QwQ-32B在线模型,本文也将提供详细的解决方案!

整个方案不需要任何的代码和命令执行,全部在控制台完成,所以新手朋友也不用担心哦,大胆地尝试起来吧!

部署OpenWebUI+Ollama


前提条件

  • ecs配置

  • 如果您需要本地部署qwq-32b,建议ecs性能至少达到:CPU 16核以上,内存64GB+,硬盘30GB+,显卡24GB+显存;
  • 如果您选择连接阿里云百炼qwq-32b在线模型,普通ECS即可;

  • 您的ECS操作系统版本为以下之一:

  • Alibaba Cloud Linux (2.1903 LTS、3.2104 LTS)推荐
  • Ubuntu(20.04、22.04、24.04)
  • CentOS(7.7、7.8、7.9)
  • Debian(12.5、12.6)
  • OpenSUSE 15
  • Fedora(38、39、40)
  • Anolis OS(8.8、8.9)
  • AlmaLinux(9.3、9.4、9.5)

  • ECS实例必须处于运行中状态

  • ECS实例必须要有公网

  • 安全组入方向必须开启3000端口


安装步骤

  1. 阿里云系统运维管理控制台[1]中找到OpenWebUI扩展 点击安装扩展程序

  1. 请选择想要安装到的ECS实例,并点击创建。

  1. 等待执行几分钟,安装完成后。点击输出->扩展信息。您可以在配置输出里面找到已安装好的OpenWebUI的Url(格式为 http://{ECS的公网ip}:3000)。

  1. 点击url链接,根据提示创建账号并登录即可。

注意:


  • 您需要确认安全组入方向3000端口已经开放,详情见附录1。

  • 第一次登陆会比较慢,请在登陆后按照附录2说明,更改配置。下次登陆就会变快。

在Open WebUI部署QwQ-32B本地大模型

当您登陆进入管理界面,您可以直接在对话界面搜索,想要本地部署的模型。本文以部署QwQ-32B模型为例。点击从ollama官网[2]拉取,等待模型下载部署完成后,就可以直接使用啦!您可以在ollama官网查看可供下载的大模型。

下载完成后,您可以选择模型并开始对话。

更多信息可以参考OpenWebUI官方文档[3]。

在Open WebUI连接阿里云百炼在线模型

如果说您的ECS性能无法满足本地运行要求,您也可以配置连接阿里云百炼[4]的在线模型。百炼现在对于新用户还有最长达半年的免费额度,具体信息请参考新人免费额度_大模型服务平台百炼[5]。

点击进入管理员面板:

添加阿里云百炼的连接:

模型名称、URL(https://dashscope.aliyuncs.com/compatible-mode/v1)、API KEY等信息,都可以在阿里云百炼的控制台找到。

保存好后,回到对话页面,您就可以找到刚才配置的模型,并开始对话了。

原理解析


什么是OpenWebUI和Ollama

OpenWebUI 是一个开源的用户界面(UI)工具,通常用于与大型语言模型(LLM)进行交互。它提供了一个图形化的前端界面,使得用户可以更方便地与大模型进行对话、测试和调试。

OpenWebUI 支持多种后端模型,允许用户通过简单的配置文件或命令行参数来切换不同的模型。它通常用于研究、开发和演示场景,帮助开发者和研究人员更直观地了解模型的表现。

OpenWebUI 的主要功能特点:

  • 支持多种语言模型(如 LLaMA、ChatGLM、Qwen 等)。
  • 提供了友好的图形化界面,便于用户输入和查看输出。
  • 可以自定义提示词(prompt),并支持多轮对话。
  • 支持模型推理时的参数调整,如温度(temperature)、top-k、top-p 等。

Ollama 是一个专为大语言模型服务设计的开源工具,方便用户在本地快速部署大型模型。通过简单的安装过程,用户可以用一条命令即可启动和操作这些开源的大语言模型。它提供了一个易于使用的命令行界面和服务器,旨在简化构建大语言模型应用的流程。用户可以方便地下载、运行和管理各种开源的大模型。

上述安装过程中,扩展程序内的OpenWebUI已经完成了与Ollama的集成。借助OpenWebUI 提供的图形化用户界面,使得与 Ollama 交互变得更加直观和便捷。就像上面安装时,我们在UI界面搜索并点击下载QWQ-32b模型模型,背后其实就是执行了Ollama的命令,完成模型的下载和部署。这大大简化了操作流程,还提高了开发效率和灵活性。


安装脚本解析

您可以在公共扩展的详情页,找到完整的安装脚本:

主要是先完成了docker的安装,再拉取open-webui:ollama镜像,启动容器。这个镜像内已配置好open-webui和ollama的集成,维护在aliyun-computenest-opensource-registry这个公开仓库,您可随时拉取使用。

脚本里,docker命令创建了名为 ollama 和open-webui 的卷,用于持久化容器内的数据,并将主机的3000端口映射到容器的8080端口。您可以按需调整脚本,以适应个性化的安装需求。

之前是docker安装-----------sudo systemctl start dockersudo systemctl enable docker
docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always aliyun-computenest-opensource-registry.cn-hangzhou.cr.aliyuncs.com/default/open-webui:ollama
sleep 5 # 等待容器初始化docker ps -f name=openwebui

OpenWebUI高级玩法介绍

除了上面提到的基本的对话功能,openwebui还有很多有意思的功能,我们来看几个比较常用的功能。


模型对比输出

您可以添加多个模型,开启对话后,会以分栏的方式,同时展示不同模型的回答。您可以对比回答,挑选更符合要求的。

您还可以整合多个回答的问题:


自定义推理参数

您可以自定义模型的系统提示词、函数调用、温度k等配置,调出最适合自己的模型参数。

此外,OpenWebUI还有个性化知识库、AI对话游乐场等功能,您可以在官方文档[6]中继续探索!

附录

1. 开启安全组3000端口的方法(详细说明请看官方文档):

进入实例详情页,点击安全组选项,并点击安全组名称

点击快速添加,新增需要开放的端口。这里请开放3000端口。

2. Open WebUI访问慢的问题

点击进入管理员面板,关闭OpenAI的连接(或者您可按需换成如阿里云百炼这种访问速度较快的外部API):

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询