微信扫码
添加专属顾问
我要投稿
阿里QwQ-32B小模型挑战DeepSeek,性能对比一探究竟。 核心内容: 1. 阿里QwQ-32B与DeepSeek-r1性能对比 2. QwQ基于冷启动的强化学习策略 3. 内容总结能力测试结果分析
阿里是用了什么魔法嘛,我们先来看看他们介绍是怎么做到的吧。
QWQ基于冷启动开展大规模强化学习。初始阶段,特别针对数学和编程任务进行RL训练。与依赖传统奖励模型不同,通过校验生成答案的正确性来为数学问题提供反馈,并通过代码执行服务器评估生成的代码是否成功通过测试用例来提供代码反馈。
def _stream_query(self, model_name, question): """流式查询模型""" reasoning_content = "" answer_content = "" is_answering = False completion = self.client.chat.completions.create( model=model_name, messages=[{"role": "user", "content": question}], stream=True ) self.console.print(Panel.fit( "[bold blue]思考过程[/bold blue]", border_style="blue", padding=(1, 2) )) for chunk in completion: if not chunk.choices: continue delta = chunk.choices[0].delta if hasattr(delta, 'reasoning_content') and delta.reasoning_content is not None: self.console.print(delta.reasoning_content, end='', highlight=False) reasoning_content += delta.reasoning_content else: if delta.content != "" and is_answering is False: self.console.print(Panel.fit( "[bold green]完整回复[/bold green]", border_style="green", padding=(1, 2) )) is_answering = True self.console.print(delta.content, end='', highlight=False) answer_content += delta.content
最后说一下结论,qwq跟deepseek-r1还是有一定的差距,这个也是自然,毕竟模型参数差这么多。
但是对于服务器资源有限的情况,如果你想部署deepseek所谓70b的蒸馏版本,那就完全不如选择qwq了,不但所需资源更少,效果还更好。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-04-21
一台3090就能跑Gemma 3 27B!谷歌发布Gemma 3全系QAT版模型
2025-04-20
MCP vs Function Calling,该如何选?
2025-04-20
国内企业应用AI大模型赋能软件测试的落地实践案例
2025-04-20
8卡H20运行DeepSeek-V3-0324性能和推理实测
2025-04-19
低延迟小智AI服务端搭建-ASR篇(续):CPU可跑
2025-04-19
LoRA 与QLoRA区别
2025-04-18
DeepSeek-V3-0324 本地部署,vLLM和SGLang的方法
2025-04-18
Ollama对决vLLM:DEEPSEEK部署神器选谁?90%人选错!这份实测攻略让你秒懂!
2025-02-04
2025-02-04
2024-09-18
2024-07-11
2024-07-09
2024-07-11
2024-07-26
2025-02-05
2025-01-27
2025-02-01
2025-04-20
2025-04-01
2025-03-31
2025-03-20
2025-03-16
2025-03-16
2025-03-13
2025-03-13