粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
最近研究发现，那些平时自信满满的大模型，竟然也能有了"自知之明"？！
没错，就是那些动不动就喊着"我无所不能"的AI，现在也学会说"这题我不会"了！
这项名为"自我校准提示"的新技术，简直就是给AI装上了一个"诚实药丸"。
就这么简单的两步，居然能让那些平时嘴硬的大模型乖乖认错？
有网友表示："这不就是打脸神器吗？以后GPT-4再敢胡说八道，我就用这招！"
这项技术源自Anthropic 的论文——《语言模型（大多）知道它们知道什么》。
来自Anthropic 的论文作者发现，越大的模型，在自我评估方面表现得越好。这就好比，学霸不仅会做题，还知道自己哪道题做对了。
有意思的是，研究还发现了一个叫"P(IK)"的小玩意儿。这东西就像是给AI装了个"知识探测器"，能预测模型是否能正确回答某个问题。
更神奇的是，如果你给AI一些提示或参考资料，它的"P(IK)"值就会增加。这不就是活学活用吗？
有网友调侃道："这下AI也有'临场发挥'的机会了？给点提示就能临时抱佛脚？"
此外，这项技术还有很多有趣的细节。
比如，研究人员发明了一个"头脑风暴"技巧，让AI在评估自己之前先看看其他可能的答案。这种方法居然大大提高了AI的自我评估能力！
这简直就是给AI开了个“对比学习”的小灶啊！
更让人惊讶的是，随着模型规模的增大，AI的自我验证能力似乎提升得比生成能力更快。这意味着，未来的大模型可能会更懂得审视自己。
有网友戏称：以后AI不仅能写作文，还能当阅卷老师了？
总的说来，这项研究为我们揭示了AI自我认知能力的一个新维度。
它让我们看到，未来的AI可能不仅仅是一个全知全能的黑盒子，而是一个能够理解自身局限的智能助手。
而我想补充的是：连AI都开始"自知"了，我们人类是不是也该多反省反省？
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-09-22
谈谈CoT和推理的Scaling Law
2024-09-21
OpenAI o1 团队在线答疑：o1的o指OpenAI，强化后的推理有泛化能力，未来模型思考时间可控！
2024-09-21
大模型的威力，远不只是聊天框
2024-09-21
OpenAI o1的架构流程已被Claude破解了？
2024-09-21
RAG检索失败率降低49%？Anthropic-Contextual-RAG方案解析-兼看老刘的课堂三部曲
2024-09-21
Multi-Agent架构-CrewAI详解
2024-09-21
聊聊RLHF的奖励模型——上海人工智能书生大模型的RW实践
2024-09-21
文档大模型，能否真正解决非结构化数据难题
2024-07-18
2024-03-30
2024-04-26
2024-04-11
2024-05-06
2024-06-12
2024-07-09
2024-05-09
2024-07-25
2023-07-01
2024-09-21
2024-09-21
2024-09-21
2024-09-21
2024-09-21
2024-09-21
2024-09-21
2024-09-21
回到顶部