AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


重磅!GPT-4o和GPT-4o mini开放微调!每天免费100万tokens!
发布日期:2024-08-22 06:08:57 浏览次数: 1720


微调是什么?简单来说,它是一种让AI模型“更懂你”的方法。通过向模型输入自定义数据集,你可以调整它的响应结构、语气,甚至让它更好地理解并执行复杂的领域特定指令。无论你是从事编程、创意写作,还是其他特定领域,微调都能显著提升模型的表现。只需使用少量的训练数据集示例,就能产生显著的效果。这不仅降低了训练成本,也使得更多小规模项目和初创团队能够享受到AI定制化的优势。

而就在昨天(8月20日),OpenAI正式推出了GPT-4oGPT-4o mini模型的微调功能,对所有付费层级的开发者开放。并且,OpenAI还提供了免费的训练标记(training tokens)配额,持续到9月23日,每个组织每天可以免费获得100万训练标记用于GPT-4o微调,200万训练标记用于GPT-4o mini微调。

1. 微调功能的可用性

  • 现在,开发者可以对GPT-4oGPT-4o mini模型进行微调。这项功能对所有付费使用层级的开发者都开放。

  • 微调允许开发者根据自己的需求定制模型的响应,使其更符合偏好的结构或语气,或者使其适应复杂的领域特定指令。

2. 微调的应用和效果

Cosine

Cosine的Genie是一款AI软件工程助手,能够自动识别和解决bug、构建功能以及与用户协作重构代码。通过微调的GPT-4o模型,Genie在新的SWE-bench Verified基准测试中取得了43.8%的最佳成绩。与之前的19.27%相比,这次的改进是该基准测试中最大的进步。

Distyl

Distyl是一家为财富500强企业提供AI解决方案的公司,在BIRD-SQL基准测试中排名第一。Distyl微调的GPT-4o在SQL生成、查询重组、意图分类、链式思维和自我纠错方面表现优异,执行准确率达到了71.83%。

3. 如何开始使用微调:

OpenAI Fine-tuning Dashboard: https://platform.openai.com/finetune

OpenAI Fine-tuning Docs: https://platform.openai.com/docs/guides/fine-tuning

  • GPT-4o的微调功能现在对所有付费层级的开发者开放。开发者可以通过微调仪表板开始操作,选择基础模型“gpt-4o-2024-08-06”。GPT-4o的微调训练费用为每百万标记25美元,推理费用为每百万输入标记3.75美元,每百万输出标记15美元。从现在起到9月23日之前,OpenAI为每个组织每天免费提供100万GPT-4o的训练标记。

  • GPT-4o mini的微调功能也对所有付费层级的开发者开放。开发者可以选择“gpt-4o-mini-2024-07-18”作为基础模型。GPT-4o mini的微调训练费用为每百万标记3美元,推理费用为每百万输入标记0.3美元,每百万输出标记1.2美元。从现在起到9月23日之前,OpenAI为每个组织每天免费提供200万GPT-4o mini的训练标记。

附:OpenAI邮件通知全文

好消息!现在,所有付费层级的开发者都可以使用GPT-4o和GPT-4o mini的微调功能,这能帮助你在特定用例中以更低的成本获得更高的性能。

微调让你能够定制模型的响应,使其符合你偏好的结构或语气,或者让模型更好地遵循复杂的领域特定指令。

从编程到创意写作,微调可以在多个领域显著提升模型的表现。例如,Cosine的Genie模型通过微调GPT-4o在新的SWE-bench Verified基准测试中取得了43.8%的最高分。Distyl微调的GPT-4o在BIRD-SQL基准测试中达到了71.83%的最佳执行准确率。开发者只需要在训练数据集中使用几十个示例,就可以为他们的应用程序带来出色的效果。(关于这些结果的更多细节,请查看我们的博客文章。)

你可以从文档开始,或者直接前往微调仪表板,点击“创建”,然后从基础模型下拉菜单中选择“gpt-4o-2024-08-06”或“gpt-4o-mini-2024-07-18”。GPT-4o的微调训练费用是每百万标记25美元,推理费用为每百万输入标记3.75美元,输出标记15美元。GPT-4o mini的微调训练费用是每百万标记3美元,推理费用为每百万输入标记0.30美元,输出标记1.20美元。

为了帮助你快速上手,我们还提供了免费的微调标记配额:在9月23日之前,每个组织每天可以免费获得100万标记用于GPT-4o微调,200万标记用于GPT-4o mini微调。

如果你有任何问题,请在OpenAI开发者论坛上联系我们。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询