微信扫码
与创始人交个朋友
我要投稿
Google DeepMind高级研究科学家Rishabh Agarwal的一篇非常有深度的演讲稿,主要探讨了如何通过自生成数据来改进LLM的推理能力。
当前 LLM 训练面临的一个关键挑战: 高质量训练数据的稀缺,传统方法依赖从网络抓取或人工收集高质量数据,这种方式既耗时又昂贵,难以扩展,特别是对于复杂任务而言。
为解决这一问题,演讲者提出了一个创新性的想法: 让模型自己生成训练数据。但这里存在一个潜在的问题: 如果简单地让模型生成数据并用于训练,可能会导致 "模型崩溃"。
介绍了一种称为 ReST_EM (Reinforcement Self-Training via Expectation-Maximization) 的算法来解决这个问题:
这个过程本质上对应于基于期望最大化的强化学习。
ReST_EM 在数学和编程等问题解决任务上取得了显著效果,甚至超过了人类数据训练的模型。这表明自生成数据可能比人类数据更加 "in-distribution" (即更符合模型的分布)。
进一步探讨了如何利用错误解答来训练验证器。验证器可以帮助模型在测试时更好地利用计算资源,提高性能。
通过计算匹配采样,可以在给定计算资源的情况下,让小模型生成更多样本,从而提高大模型的性能。
最后探讨了是否可以通过上下文学习来替代微调过程,提出了强化上下文学习 (Reinforced ICL) 的概念。
Rishabh Agarwal通过这些方法,展示了如何通过自生成数据和验证器来提高 LLMs 在问题解决任务上的性能,尤其是在数学和编程领域。此外,还讨论了如何通过优化计算成本和利用较小模型来进一步提高数据生成的效率和质量。
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-10-05
ChatGPT从今天开始,Plus 和Team 用户可以通过在模型选择器中选择“GPT-4o with canvas”
2024-10-03
OpenAI革新性功能:"Prompt Caching"—— 提速降本的双赢之选
2024-10-02
OpenAI开发者日:实时API、模型蒸馏、视觉微调重磅发布!
2024-10-02
OpenAI DevDay公布五项重大创新,AI实时语音的时代来了!成本比GPT-3降低近1000倍!
2024-09-30
Word Embedding揭秘:如何用词嵌入提升NLP模型表现
2024-09-30
DocChat:在几个小时内完成 GPT-4 级别对话QA训练!
2024-09-30
不要上来就大模型,从训练一个小模型开始
2024-09-30
o1的规划能力如何?LRM是未来吗?
2024-07-11
2024-07-09
2024-07-11
2024-06-11
2024-09-18
2024-07-23
2024-07-09
2024-07-20
2024-07-12
2024-07-11