微信扫码
添加专属顾问
我要投稿
阿里云QwQ-32B模型0代码一键部署,让AI模型部署变得触手可及。 核心内容: 1. QwQ-32B模型性能介绍及其与DeepSeek-R1的对比 2. 阿里云一键部署方案OpenWebUI+Ollama的详细步骤 3. 本地部署QwQ-32B的ECS配置要求及操作系统版本建议
阿里云发布的最新模型QwQ-32B,通过强化学习大幅度提升了模型推理能力。模型数学代码等核心指标(AIME 24/25、livecodebench)以及部分通用指标(IFEval、LiveBench等)达到DeepSeek-R1 满血版水平,各指标均显著超过同样基于 Qwen2.5-32B 的 DeepSeek-R1-Distill-Qwen-32B。
阿里云系统运维管理(OOS)的公共扩展功能为您提供了一键部署OpenWebUI+Ollama的便捷方案,让您轻松部署QwQ-32B模型到阿里云ECS。另外,您也可以连接阿里云百炼的QwQ-32B在线模型,本文也将提供详细的解决方案!
整个方案不需要任何的代码和命令执行,全部在控制台完成,所以新手朋友也不用担心哦,大胆地尝试起来吧!
部署OpenWebUI+Ollama
前提条件
ecs配置
如果您选择连接阿里云百炼qwq-32b在线模型,普通ECS即可;
您的ECS操作系统版本为以下之一:
AlmaLinux(9.3、9.4、9.5)
ECS实例必须处于运行中状态
ECS实例必须要有公网
安全组入方向必须开启3000端口
安装步骤
阿里云系统运维管理控制台[1]中找到OpenWebUI扩展 点击安装扩展程序。
请选择想要安装到的ECS实例,并点击创建。
等待执行几分钟,安装完成后。点击输出->扩展信息。您可以在配置输出里面找到已安装好的OpenWebUI的Url(格式为 http://{ECS的公网ip}:3000)。
点击url链接,根据提示创建账号并登录即可。
注意:
您需要确认安全组入方向3000端口已经开放,详情见附录1。
第一次登陆会比较慢,请在登陆后按照附录2说明,更改配置。下次登陆就会变快。
在Open WebUI部署QwQ-32B本地大模型
当您登陆进入管理界面,您可以直接在对话界面搜索,想要本地部署的模型。本文以部署QwQ-32B模型为例。点击从ollama官网[2]拉取,等待模型下载部署完成后,就可以直接使用啦!您可以在ollama官网查看可供下载的大模型。
下载完成后,您可以选择模型并开始对话。
更多信息可以参考OpenWebUI官方文档[3]。
在Open WebUI连接阿里云百炼在线模型
如果说您的ECS性能无法满足本地运行要求,您也可以配置连接阿里云百炼[4]的在线模型。百炼现在对于新用户还有最长达半年的免费额度,具体信息请参考新人免费额度_大模型服务平台百炼[5]。
点击进入管理员面板:
添加阿里云百炼的连接:
模型名称、URL(https://dashscope.aliyuncs.com/compatible-mode/v1)、API KEY等信息,都可以在阿里云百炼的控制台找到。
保存好后,回到对话页面,您就可以找到刚才配置的模型,并开始对话了。
原理解析
什么是OpenWebUI和Ollama
OpenWebUI 支持多种后端模型,允许用户通过简单的配置文件或命令行参数来切换不同的模型。它通常用于研究、开发和演示场景,帮助开发者和研究人员更直观地了解模型的表现。
OpenWebUI 的主要功能特点:
支持模型推理时的参数调整,如温度(temperature)、top-k、top-p 等。
Ollama 是一个专为大语言模型服务设计的开源工具,方便用户在本地快速部署大型模型。通过简单的安装过程,用户可以用一条命令即可启动和操作这些开源的大语言模型。它提供了一个易于使用的命令行界面和服务器,旨在简化构建大语言模型应用的流程。用户可以方便地下载、运行和管理各种开源的大模型。
上述安装过程中,扩展程序内的OpenWebUI已经完成了与Ollama的集成。借助OpenWebUI 提供的图形化用户界面,使得与 Ollama 交互变得更加直观和便捷。就像上面安装时,我们在UI界面搜索并点击下载QWQ-32b模型模型,背后其实就是执行了Ollama的命令,完成模型的下载和部署。这大大简化了操作流程,还提高了开发效率和灵活性。
安装脚本解析
您可以在公共扩展的详情页,找到完整的安装脚本:
主要是先完成了docker的安装,再拉取open-webui:ollama镜像,启动容器。这个镜像内已配置好open-webui和ollama的集成,维护在aliyun-computenest-opensource-registry这个公开仓库,您可随时拉取使用。
脚本里,docker命令创建了名为 ollama 和open-webui 的卷,用于持久化容器内的数据,并将主机的3000端口映射到容器的8080端口。您可以按需调整脚本,以适应个性化的安装需求。
之前是docker安装
-----------
sudo systemctl start docker
sudo systemctl enable docker
docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always aliyun-computenest-opensource-registry.cn-hangzhou.cr.aliyuncs.com/default/open-webui:ollama
sleep 5 # 等待容器初始化
docker ps -f name=openwebui
OpenWebUI高级玩法介绍
除了上面提到的基本的对话功能,openwebui还有很多有意思的功能,我们来看几个比较常用的功能。
模型对比输出
您可以添加多个模型,开启对话后,会以分栏的方式,同时展示不同模型的回答。您可以对比回答,挑选更符合要求的。
您还可以整合多个回答的问题:
自定义推理参数
您可以自定义模型的系统提示词、函数调用、温度k等配置,调出最适合自己的模型参数。
此外,OpenWebUI还有个性化知识库、AI对话游乐场等功能,您可以在官方文档[6]中继续探索!
附录
进入实例详情页,点击安全组选项,并点击安全组名称
点击快速添加,新增需要开放的端口。这里请开放3000端口。
点击进入管理员面板,关闭OpenAI的连接(或者您可按需换成如阿里云百炼这种访问速度较快的外部API):
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-03-08
QwQ总结能力测评,32b小模型真能超过deepseek吗
2025-03-08
为什么vLLM做不到?解密Ollama越级部署黑科技:以DeepSeek-R1-8B为例
2025-03-07
为什么Manus底层模型没用DeepSeek?——Manus六问六答
2025-03-07
Cherry Studio 发布 v1.0.0 版本支持联网搜索
2025-03-07
Claude 3.7 Sonnet 使用结论
2025-03-07
Manus,为何是他们做出来了?
2025-03-07
Cursor 新版本要来了!同一个窗口使用Agent+Chat!上下文增强、UI升级、界面更清爽。
2025-03-07
Cursor + MCP:效率狂飙!一键克隆网站、自动调试错误,社区:每个人都在谈论MCP!
2025-02-04
2025-02-04
2024-09-18
2024-07-11
2024-07-09
2024-07-11
2024-07-26
2025-02-05
2025-01-27
2025-02-01