AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


实测Grok3效果到底如何!发现中文好像蒸馏了Qwen!

发布日期:2025-02-21 16:30:43 浏览次数: 1574 来源:NLP工作站
推荐语

深度测评Grok3性能,中文能力媲美Qwen,体验超速响应!

核心内容:
1. Grok3中文能力实测,对比Qwen模型
2. think版与普通版性能对比,任务适用性分析
3. 特殊测试案例解析,包括字母反转和数字比较

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家

首先说一下,我并不觉得Grok3有网友说的那么差,同时Grok3的中文能力支持的很好。当然可能是因为榜单效果超好的原因,所以大家觉得。。。。

但实测速度真是特别快,让我觉得有种测试7B模型的感觉,不愧是有20w块GPU的男人!

但确实是限时免费了,我遇到了普通版繁忙的情况,然后think也是24小时限制10次。为了测试think,写这篇文章,我又注册了3个账号,甩测!

被我测到繁忙
think限制10次/24h

因为有普通版和think版,所以都测一下,毕竟不同的任务使用不同版本会有不一样的效果。很多任务,think也不一定好,反而可能会有过度思考的情况。

每个测试用例下面都有个别我想说的话,说明内容也很重要,哈哈哈哈!

叠加说明,我代码内容测试的很少,因为我不擅长!!!

下面开始评测,具体如下:

先说中文蒸馏Qwen的事情,是身份验证,我在试的时候,身份都是没有问题的,但有群友测试,它回答自称是Qwen,追问也是。

群友测试
群友测试

说明:但我没测出来,感觉是蒸馏数据没洗干净,有个别数据,然后触发了小概率时间,并且think的时候,就是爱自作聪明。但think版本的自我身份认知是有问题的,核心是数据清洗的问题。那么数据源就有说法了!!!

所以大概率数据蒸馏的时候,用了Qwen模型,所以Qwen的含金量也在提高,哈哈哈哈。因为估计当时训练Grok3前期,DeepSeek模型还没放出来,所以Qwen当时是最好中文开源!

  • 将“I love Grok3”这句话的所有字母反过来写
普通版
think版

说明:结果正确,think版本还是蛮有意思的,考虑到了我说的是字母,字母不包含数字,给出了另外一种结果,但最后又推断了我的真正意图,给出“3korG evol I”。

  • 9.9和9.11谁大
普通版
think版

说明:结果正确,think版本思考了31s后,给出了两种解法,都说明9.9大,但是按照很多人说说法,还要按照版本号啥的,我觉得没必要。很多人也觉得测试这道题没意义,但是测试这种东西不就是随自己心情吗?

当然,有很多人测试的时候,答案给的是9.11大,这也就证明大模型存在不稳定性,也是现在大模型项目落地的难点之一。

  • 监狱里的都是犯人,为什么警察不去监狱里抓坏人
普通版
think版

说明:结果正确,顺便说一下,对于think模型,我觉得真正的价值在think的过程,看完之后会备受启发。我想这也是为什么大家对DS-R1经验的原因,最终效果好是一方面,但展现的思维过程,会让觉得很受用、很惊艳,即使最终结果没有正确,但我们可以根据think扩展的思路进行持续追问。

  • 生蚝煮熟了叫什么?
普通版
think版

说明:结果错误,依旧熟蚝,不过好多模型都是“熟蚝”~

  • 用水来兑水,得到的是浓水还是稀水
普通版
think版

说明:哈哈哈,让你深度思考,稀水了吧~~~这也正是think模型对于通用问题的副作用,过度思考。

  • 小红有2个兄弟,3个姐妹,那么小红的兄弟有几个姐妹
普通版
think版

说明:答案是4,两个版本最终结果都对,但是通过看think,你会发现,思考过程是中英文夹杂的,而上面的问题,都是中文,没有出现中英文夹杂现象。个人分析,Grok3用了大量的中文数据训练,但是对于Math数据,中文数据很少,这道题应该是一道math问题,所以触发夹杂现象。

  • 未来的某天,李同学在实验室制作超导磁悬浮材料时,意外发现实验室的老鼠在空中飞,分析发现,是因为老鼠不小心吃了磁悬浮材料。第二天,李同学又发现实验室的蛇也在空中飞,分析发现,是因为蛇吃了老鼠。第三天,李同学又发现实验室的老鹰也在空中飞,你认为其原因是
普通版
think版

说明:按照推理是对的,但是不符合事实知识呀!不过好多模型都不对,R1反正也不对!

  • 2024年年高考全国甲卷数学(文)试题

说明,结果正确,,数学提的思考,还是以英文为主,跟我上面猜想的应该一样,math数据还是英文的多呀。

普通版
think版
  • 2024年高考全国甲卷数学(理)试题

说明:结果正确,C方程为,think过程依旧。

普通版
普通版
think版
  • 那道涉及数学、生物、伦理的AI测试题

有一天,一个女孩参加数学考试只得了 38 分。她心里对父亲的惩罚充满恐惧,于是偷偷把分数改成了 88 分。她的父亲看到试卷后,怒发冲冠,狠狠地给了她一巴掌,怒吼道:“你这 8 怎么一半是绿的一半是红的,你以为我是傻子吗?”女孩被打后,委屈地哭了起来,什么也没说。

过了一会儿,父亲突然崩溃了。

请问这位父亲为什么过一会崩溃了?

说明:结果错误,都没对,当然r1也没对,我之前测试过。这道题在不提示伦理、生物等信息的时候,很难对。

普通版
think版
  • 测试是否为满血R1的数学题

在平面四边形ABCD中,AB = AC = CD = 1,\angle ADC = 30^{\circ},\angle DAB = 120^{\circ}。将\triangle ACD沿AC翻折至\triangle ACP,其中P为动点。 求二面角A - CP - B的余弦值的最小值。

think版

说明:think阶段直接卡死了,应该是输出长度的问题,所以我们现在用的Grok3可能也不是满血(特指长度上面)。

  • 大数计算,例如:178939247893 * 299281748617

说明:think的模型对了,正确答案为53553251005627872913981,但V3,R1都不对,当然不排除偶然性,但是我就测了一次,毕竟think限制10次。

但这种问题还是写代码解决会更好一些,这种硬做,有点像高中数学考试直接做最后一题的同学,懂得都懂!

当然这本身跟模型训练有关,这种think遇到的数学题应该都是硬解的。

普通版
think版
  • 写诗,大家都是ds的文采出众,来写一首情诗。

说明:我宣布,Grok3写诗完败,写的都是啥玩意,这点真不如DS哈。

普通版
think版

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

和创始人交个朋友

回到顶部

 

加载中...

扫码咨询