微信扫码
和创始人交个朋友
我要投稿
深度测评Grok3性能,中文能力媲美Qwen,体验超速响应! 核心内容: 1. Grok3中文能力实测,对比Qwen模型 2. think版与普通版性能对比,任务适用性分析 3. 特殊测试案例解析,包括字母反转和数字比较
首先说一下,我并不觉得Grok3有网友说的那么差,同时Grok3的中文能力支持的很好。当然可能是因为榜单效果超好的原因,所以大家觉得。。。。
但实测速度真是特别快,让我觉得有种测试7B模型的感觉,不愧是有20w块GPU的男人!
但确实是限时免费了,我遇到了普通版繁忙的情况,然后think也是24小时限制10次。为了测试think,写这篇文章,我又注册了3个账号,甩测!
因为有普通版和think版,所以都测一下,毕竟不同的任务使用不同版本会有不一样的效果。很多任务,think也不一定好,反而可能会有过度思考的情况。
每个测试用例下面都有个别我想说的话,说明内容也很重要,哈哈哈哈!
叠加说明,我代码内容测试的很少,因为我不擅长!!!
下面开始评测,具体如下:
先说中文蒸馏Qwen的事情,是身份验证,我在试的时候,身份都是没有问题的,但有群友测试,它回答自称是Qwen,追问也是。
说明:但我没测出来,感觉是蒸馏数据没洗干净,有个别数据,然后触发了小概率时间,并且think的时候,就是爱自作聪明。但think版本的自我身份认知是有问题的,核心是数据清洗的问题。那么数据源就有说法了!!!
所以大概率数据蒸馏的时候,用了Qwen模型,所以Qwen的含金量也在提高,哈哈哈哈。因为估计当时训练Grok3前期,DeepSeek模型还没放出来,所以Qwen当时是最好中文开源!
说明:结果正确,think版本还是蛮有意思的,考虑到了我说的是字母,字母不包含数字,给出了另外一种结果,但最后又推断了我的真正意图,给出“3korG evol I”。
说明:结果正确,think版本思考了31s后,给出了两种解法,都说明9.9大,但是按照很多人说说法,还要按照版本号啥的,我觉得没必要。很多人也觉得测试这道题没意义,但是测试这种东西不就是随自己心情吗?
当然,有很多人测试的时候,答案给的是9.11大,这也就证明大模型存在不稳定性,也是现在大模型项目落地的难点之一。
说明:结果正确,顺便说一下,对于think模型,我觉得真正的价值在think的过程,看完之后会备受启发。我想这也是为什么大家对DS-R1经验的原因,最终效果好是一方面,但展现的思维过程,会让觉得很受用、很惊艳,即使最终结果没有正确,但我们可以根据think扩展的思路进行持续追问。
说明:结果错误,依旧熟蚝,不过好多模型都是“熟蚝”~
说明:哈哈哈,让你深度思考,稀水了吧~~~这也正是think模型对于通用问题的副作用,过度思考。
说明:答案是4,两个版本最终结果都对,但是通过看think,你会发现,思考过程是中英文夹杂的,而上面的问题,都是中文,没有出现中英文夹杂现象。个人分析,Grok3用了大量的中文数据训练,但是对于Math数据,中文数据很少,这道题应该是一道math问题,所以触发夹杂现象。
说明:按照推理是对的,但是不符合事实知识呀!不过好多模型都不对,R1反正也不对!
说明,结果正确,,数学提的思考,还是以英文为主,跟我上面猜想的应该一样,math数据还是英文的多呀。
说明:结果正确,C方程为; ,think过程依旧。
有一天,一个女孩参加数学考试只得了 38 分。她心里对父亲的惩罚充满恐惧,于是偷偷把分数改成了 88 分。她的父亲看到试卷后,怒发冲冠,狠狠地给了她一巴掌,怒吼道:“你这 8 怎么一半是绿的一半是红的,你以为我是傻子吗?”女孩被打后,委屈地哭了起来,什么也没说。
过了一会儿,父亲突然崩溃了。
请问这位父亲为什么过一会崩溃了?
说明:结果错误,都没对,当然r1也没对,我之前测试过。这道题在不提示伦理、生物等信息的时候,很难对。
在平面四边形ABCD中,AB = AC = CD = 1,\angle ADC = 30^{\circ},\angle DAB = 120^{\circ}。将\triangle ACD沿AC翻折至\triangle ACP,其中P为动点。 求二面角A - CP - B的余弦值的最小值。
说明:think阶段直接卡死了,应该是输出长度的问题,所以我们现在用的Grok3可能也不是满血(特指长度上面)。
说明:think的模型对了,正确答案为53553251005627872913981,但V3,R1都不对,当然不排除偶然性,但是我就测了一次,毕竟think限制10次。
但这种问题还是写代码解决会更好一些,这种硬做,有点像高中数学考试直接做最后一题的同学,懂得都懂!
当然这本身跟模型训练有关,这种think遇到的数学题应该都是硬解的。
说明:我宣布,Grok3写诗完败,写的都是啥玩意,这点真不如DS哈。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-02-22
一文搞懂DeepSeek - 基于R1蒸馏Qwen1.5B
2025-02-22
基于Ubuntu Ollama 部署 DeepSeek-R1:32B 聊天大模型(附带流式接口调用示例)
2025-02-22
DeepSeek-R1第三方稳定性测试(API端):首批结果出炉!
2025-02-22
企业AI私有化终极方案:DeepSeek-R1蒸馏实战全解析
2025-02-20
1.5B小模型逆袭!DeepScaleR如何用强化学习颠覆AI数学竞赛规则
2025-02-20
实战教程:用一张4090显卡+512GB内存部署671B的Deepseek大模型
2025-02-20
DeepSeek-R1微调指南
2025-02-20
一文详解大模型训练全过程
2025-02-04
2025-02-04
2024-09-18
2024-07-11
2024-07-11
2024-07-09
2024-07-26
2025-01-27
2025-02-01
2025-02-05
2025-02-16
2025-02-10
2025-02-10
2025-02-09
2025-02-05
2025-01-24
2025-01-22
2025-01-14