写在最后
微信扫码
添加专属顾问
我要投稿
阿里QwQ-32B小模型挑战DeepSeek,性能对比一探究竟。核心内容:1. 阿里QwQ-32B与DeepSeek-r1性能对比2. QwQ基于冷启动的强化学习策略3. 内容总结能力测试结果分析
阿里是用了什么魔法嘛,我们先来看看他们介绍是怎么做到的吧。
QWQ基于冷启动开展大规模强化学习。初始阶段,特别针对数学和编程任务进行RL训练。与依赖传统奖励模型不同,通过校验生成答案的正确性来为数学问题提供反馈,并通过代码执行服务器评估生成的代码是否成功通过测试用例来提供代码反馈。
def _stream_query(self, model_name, question):
"""流式查询模型"""
reasoning_content = ""
answer_content = ""
is_answering = False
completion = self.client.chat.completions.create(
model=model_name,
messages=[{"role": "user", "content": question}],
stream=True
)
self.console.print(Panel.fit(
"[bold blue]思考过程[/bold blue]",
border_style="blue",
padding=(1, 2)
))
for chunk in completion:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
if hasattr(delta, 'reasoning_content') and delta.reasoning_content is not None:
self.console.print(delta.reasoning_content, end='', highlight=False)
reasoning_content += delta.reasoning_content
else:
if delta.content != "" and is_answering is False:
self.console.print(Panel.fit(
"[bold green]完整回复[/bold green]",
border_style="green",
padding=(1, 2)
))
is_answering = True
self.console.print(delta.content, end='', highlight=False)
answer_content += delta.content
最后说一下结论,qwq跟deepseek-r1还是有一定的差距,这个也是自然,毕竟模型参数差这么多。
但是对于服务器资源有限的情况,如果你想部署deepseek所谓70b的蒸馏版本,那就完全不如选择qwq了,不但所需资源更少,效果还更好。
写在最后
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-03-09
8分钟打造一个DeepSeek API智能测试引擎:当咖啡还没凉,测试报告已出炉
2025-03-09
lceberg 助力 B 站商业化模型样本行级更新的实践
2025-03-09
单卡4090微调DeepSeek-R1-32B
2025-03-08
为什么vLLM做不到?解密Ollama越级部署黑科技:以DeepSeek-R1-8B为例
2025-03-07
为什么Manus底层模型没用DeepSeek?——Manus六问六答
2025-03-07
Cherry Studio 发布 v1.0.0 版本支持联网搜索
2025-03-07
Claude 3.7 Sonnet 使用结论
2025-03-07
Manus,为何是他们做出来了?
2025-02-04
2025-02-04
2024-09-18
2024-07-11
2024-07-09
2024-07-11
2024-07-26
2025-02-05
2025-01-27
2025-02-01