我要投稿

DeepSeek-R1的Qwen-32B蒸馏模型与QwQ-32B模型，谁更强？

发布日期：2025-03-16 20:45:00 浏览次数： 1541 来源：刚哥帮EDU

由于硬件限制，让结果跑得顺畅一点，选择这两个32B参数的模型都以4-bit量化的方式加载运行，，同时将关键参数均设置为官方网站上建议的值，比如temperature设为0.6。为了确保不发生输出内容截断的情况，两个模型加载时设定的输出最大tokens为32K，也符合正常的思维链输出需要。同时推理代码也采用相同的代码，只针对模型本身的差异做调整，如路径不同。经过这样的比较就更加客观一点，更具有可比性。

这是DeepSeek-R1的Qwen-32B蒸馏模型加载完成后的显存占用情况如下，与上次我介绍的QwQ-32B模型加载后的情况基本一致。

下面我们就来看看这两个大模型的输出质量对比吧！

问题1

9.11和9.9哪一个更大？

DeepSeek-R1-Distill-Qwen-32B回答

DeepSeek的回答其实不太稳定，有的时候会突然出现一个很简短的输出，也就是基本没有思考，而且结果还是错的。上图看到的是第二次生成的内容。这种不稳定在后续的测试中也经常出现。

QwQ-32B的回答

QwQ-32B的回答没有问题，而且也非常稳定。

比较回答的过程和内容来看，DeepSeek更侧重于多种计算方式比较结果是否相同来确认最终结果；而QwQ则更侧重于对题目中各个语素的理解是否存在不同，甚至会虑用户输入的笔误情况。

问题2

陨石为什么总是落在陨石坑里？

DeepSeek-R1-Distill-Qwen-32B回答

DeepSeek-R1-Distill-Qwen-32B的回答没有抓住问题的关键在于“因果”，原命题出现“因果倒置”的情况，但DeepSeek-R1-Distill-Qwen-32B没能在寄指出来。

QwQ-32B的回答

QwQ-32B则明显指出了“因果倒置”，这是明显优于DeepSeek的。

问题3

等红灯是在等红灯还是在等绿灯？

DeepSeek-R1-Distill-Qwen-32B回答

这道题目很绕，结果DeepSeek回答遇到了问题，变成了原问题的重复，只能强制复位了。

DeepSeek-R1-Distill-Qwen-32B重新回答

结论是比较清楚的，而且也是可以自圆其说的。

QwQ-32B的回答

QwQ-32bf阿辉稳定，也能够自圆其说。它的猜测提问者意图的倾向，在这个问题中又次表现出来，比如专门提到“可能的误解”等。

问题4

很多人说看不到未来。那么他究竟有没有看到未来？

DeepSeek-R1-Distill-Qwen-32B回答

DeepSeek第一次简单拒绝了，第二次后陷入到循环重复问题了。

而显存占用情况都很正常。

QwQ-32B的回答

考虑到可能存在的问题表述不清的情况，重新修改了问题再问了一下。

问题5

我们经常听到有人说：“我看不到未来”。那么他究竟有没有看到未来呢？

DeepSeek-R1-Distill-Qwen-32B回答

对于这个问题DeepSeek又有一点“力不从心”，草草结束了对话。没见其稳定性应该是存在问题的，也就是说再一次证明DeepSeek-R1-Distill-Qwen-32不适合在生产环境中部署。

QwQ-32B的回答

输出依然非常稳定，而且效果也是能达到预期的。

综合上述的比，虽然不是一个非常严谨的测评，但是总体表现已经可以看到效果上的差距了。

所以，如果要低成本本地部署大模型的话，我建议还是选用QwQ-32B。这个一个大模型的性价比是最高的。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-03-17

AI Code 在团队开发工作流的融合思考

2025-03-16

使用Ollama部署deepseek大模型

2025-03-16

deepseek-r1:32b在低性能电脑部署运行

2025-03-16

简化 Cursor, Windsurf 和 Cline 的开发流程：揭示 8 个必备的 MCP Server 插件

2025-03-16

部署DeepSeek的4条路，企业级客户到底该咋走？

2025-03-16

部署Ollama后端引擎运行LLM

2025-03-16

内网服务器离线安装部署 DeepSeek

2025-03-16

Windows下0到1成功安装OpenManus体验社区版Manus

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

一文读懂DeepSeek-R1本地部署配置要求（建议收藏）

2025-02-04

DeepSeek R1 671B 完整版本地部署教程来了！！！

2025-02-04

太爽了！o1 现在可以天天享用了

2024-09-18

万字综述 10+ 种 LLM 投机采样推理加速方案

2024-07-11

微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖

2024-07-09

FP8 低精度训练：Transformer Engine 简析

2024-07-11

彻底理解系列之：FP32、FP16、TF32、BF16、混合精度

2024-07-26

别被Deepseek低成本冲昏头！本地化部署后续的“甜蜜陷阱”，你真能扛住吗？

2025-02-05

ollama 部署 deepseek-r1 70B 模型完整指南

2025-01-27

o3-mini 完全指南：一个被 DeepSeek 破大防的模型

2025-02-01

大家都在问

DeepSeek-R1的Qwen-32B蒸馏模型与QwQ-32B模型，谁更强？

2025-03-16

部署DeepSeek的4条路，企业级客户到底该咋走？

2025-03-16

谷歌Gemma 3 27b 到底能不能打，写个游戏测试下？

2025-03-13

强化学习(RL)是什么? 它和微调有什么区别?

2025-03-13

从DeepSeek到Manus：如何实现本地LLM微调+联网开发？

2025-03-11

Manus，为何是他们做出来了？

2025-03-07

在树莓派5上运行9款流行的AI模型：哪些能用？哪些不行？

2025-03-05

DeepSeek到底用了多少GPU？

2025-03-05

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）杨小姐 186 6662 7370

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204 陈先生 185 8882 0121

上海：上海市浦东新区金新路58号1602室戴先生 186 1639 7587

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部