在openai o1发布24h后，有哪些值得关注的消息呢？

1. o1-preview 在 ARC-AGI 测试中的得分为 21%（目前的最佳水平是 46%）：总的来说，o1 代表了一种从“记住答案”到“记住推理过程”的模式转变，但并没有脱离目前更广泛的一种模式 -> 通过调整曲线以适应分布来提升性能，使所有内容都符合分布。

1. o1-preview 在 aider 代码编辑测试中的得分约为 80%（目前的最佳水平 Claude 3.5 Sonnet 是 77%）：o1-preview 模型在适应 aider 的差异编辑格式时遇到了问题。o1-mini 模型在适应整个和差异编辑格式时都有困难。aider 对格式的要求非常宽松，尽力接受任何接近正确格式的输入。令人惊讶的是，这些强大的模型在处理简单文本输出格式的语法要求时遇到了困难。看来 aider 可能需要优化其提示和编辑格式，以更好地发挥 o1 模型的能力。

1. o1-preview 在 Cognition-Golden 测试中的得分约为 52%（提供建议）：对于以前的模型，Chain-of-thought 和让模型“think out loud”是常见的 prompt 技巧。相反，我们发现让 o1 仅给出最终答案往往表现更好，因为它会在回答之前进行思考。o1 需要更紧凑的上下文，并且对杂乱和不必要的 token 更敏感。传统的提示方法通常会包含多余的指令，这对 o1 的表现有负面影响。

1. Andrew Mayne 的使用建议: https://x.com/andrewmayne/status/1834408991839158422

   我已经使用了 @OpenAI 的 o1 几个星期。关于使用它的建议：

1. 不要把它当作传统的聊天模型。把 o1 想象成一个非常聪明的朋友，你要给她发私信来解决问题。她会回复你一个经过深思熟虑的解释，逐步引导你解决问题。

2. 在记事本中写你的提示。提前规划好你想要什么。详细解释所有步骤，提供比平时更多的细节。

3. 对于那些不需要太多世界知识但需要逐步跟进的任务，使用 o1-mini。

4. o1 通常会给我部分答案和完整回应，而 o1-mini 会给我步骤。

5. 根据我的经验，当你进行修正或调整时，要耐心地解释你需要改变的内容。那些具备推理能力的模型对经过推理的回应会有很好的反应。

2. @btibor91 分享在 OAI 研究团队 AMA 的总结 https://x.com/btibor91/status/1834686946846597281

模型名称和推理模式

• OpenAI o1 这个名字代表了 AI 能力的新水平，因此编号重置为 1

• "Preview" 表示这是完整模型的早期版本

• "Mini" 意味着这是 o1 模型的较小版本，优化了速度

• o - 表示 OpenAI

• o1 不是一个“系统”；它是一个经过训练的模型，用于在返回最终答案之前生成长链的思考

• o1 的图标隐喻为一位具有非凡能力的外星人

o1 模型的大小和性能

• o1-mini 比 o1-preview 小得多且速度更快，因此未来会提供给免费用户

• o1-preview 是 o1 模型的早期检查点，既不大也不小

• o1-mini 在 STEM 任务中的表现优于 o1-preview，但世界知识有限

• 与 o1-preview 相比，o1-mini 在一些任务中表现更好，尤其是在代码相关任务中

• o1 的输入 tokens 计算方式与 GPT-4o 相同，使用相同的分词器

• o1-mini 能够探索更多的思考链条，相较于 o1-preview

输入 Token 上下文和模型能力

• o1 模型将很快支持更大的输入上下文

• o1 模型能够处理更长、更开放的任务，较少需要将输入分块，与 GPT-4o 相比

• o1 能够在提供答案之前生成长链的思考，与之前的模型不同

• 当前无法在 CoT 推理过程中暂停以添加更多上下文，但正在为未来模型探索这一功能

工具、功能和即将推出的特性

• o1-preview 尚未使用工具，但计划支持函数调用、代码解释器和浏览功能

• 未来更新将加入工具支持、结构化输出和系统提示

• 用户可能最终可以控制思考时间和 token 限制

• 计划启用流式处理，并在 API 中考虑推理进度

• o1 内置了多模态能力，旨在在 MMMU 等任务中达到最先进的性能

CoT（思维链）推理

• o1 在推理过程中生成隐藏的思考链

• 没有计划向 API 用户或 ChatGPT 透露 CoT tokens

• CoT tokens 会被总结，但不能保证与实际推理完全一致

• 提示中的指令可以影响模型如何思考问题

• o1 使用强化学习（RL）来改进 CoT，而 GPT-4o 仅通过提示无法匹配 o1 的 CoT 性能

• 思考阶段看起来较慢，因为它总结了思维过程，尽管答案生成通常更快

API 和使用限制

• o1-mini 对于 ChatGPT Plus 用户每周有 50 个提示的限制

• 在 ChatGPT 中所有提示的计数相同

• 未来会推出更多的 API 访问层级和更高的速率限制

• API 中的提示缓存是一个热门请求，但尚无时间表

定价、微调和扩展

• o1 模型的定价预计将遵循每 1-2 年降价的趋势

• 一旦速率限制增加，将支持批量 API 定价

• 微调在计划中，但尚无时间表

• 扩展 o1 受到研究和工程人才的瓶颈

• 新的推理计算扩展范式可能在未来模型中带来显著提升

• 逆向扩展尚不显著，但个人写作提示显示 o1-preview 相比 GPT-4o 仅表现稍微更好（或稍微差）

模型开发和研究洞察

• o1 通过强化学习进行训练，以实现推理性能

• 该模型展示了创造性思维和在诗歌等侧向任务中的强大表现

• o1 的哲学推理和通用能力，比如解码密码，令人印象深刻

• 研究人员使用 o1 创建了一个 GitHub 机器人，自动联系合适的 CODEOWNERS 进行审查

• 在内部测试中，o1 自我测验难题以评估其能力

• 正在增加广泛的世界知识，并将在未来版本中改进

• 计划为 o1-mini 提供更新的数据（目前为 2023 年 10 月）

提示技术和最佳实践

• o1 受益于提供边缘案例或推理风格的提示

• o1 模型比早期模型更能接受提示中的推理线索

• 在检索增强生成（RAG）中提供相关上下文可以提高性能；不相关的内容可能会恶化推理效果

一般反馈和未来改进

• 由于处于早期测试阶段，o1-preview 的速率限制较低，但会逐步增加

• 正在积极改进延迟和推理时间

卓越的模型能力

• o1 能够思考哲学性问题，如“生命是什么？”

• 研究人员发现 o1 在处理复杂任务和从有限指令中进行泛化方面表现出色

• o1 的创造性推理能力，如自我测验以评估其能力，展示了其高水平的问题解决能力