AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


Dify v0.8.1:如何使用 OpenAI 的 o1 系列模型构建 LLM 应用?
发布日期:2024-09-13 18:38:21 浏览次数: 2024 来源:Dify


在北京时间 9 月 13 日凌晨 1 点,OpenAI 突然发布了最新的模型系列:o1-preview 和 o1-mini。OpenAI 表示,这一系列模型代表了人工智能的最高水平,尤其在复杂推理任务方面取得了重大突破。得益于 Dify 对于 LLM 优秀的底层支持能力,在 OpenAI 发布后的数小时内,Dify 第一时间完成接入,用户可以在构建 LLM 应用时率先体验这一系列先进的模型。

卓越的性能表现

OpenAI o1 系列模型采用了强化学习的方法,以提升在复杂推理任务中的表现。模型在回复用户之前,会在内部进行长时间的链式思维(Chain of Thought,CoT)过程,模拟人类思考复杂问题的方式。这种方法使模型能够更深入地理解问题,并提供更加准确和详细的回答。因此,OpenAI o1 在数学、编程和科学问题方面都有巨大的飞跃性进步。与之前的 GPT-4o 模型相比,o1 系列在多个方面都有显著提升:
数学能力:
  • GPT-4o:在美国数学竞赛 AIME 2024 的测试中,单样本答题正确率为 9.3%,通过 64 个样本投票正确率为 13.4%
  • o1:单样本答题正确率提升至 74.4%,通过 64 个样本投票正确率高达 83.3%。这使得 o1 的表现达到了前 500 名美国学生的水平。

编程能力:

  • GPT-4o:在 Codeforces 的竞赛中,Elo 评分为 808,处于人类参赛者的第 11 个百分位。
  • o1:Elo 评分达到了 1,673,处于第 89 个百分位,表现显著优于 GPT-4o。

科学问题:

  • GPT-4o:在 GPQA(物理、化学和生物学问题)测试中,单样本准确率为 56.1%

  • o1:准确率提升至 78%,超过了人类博士水平的平均表现。

如何在 Dify 中配置和使用

1. 获取 API Key

首先,你需要前往 OpenAI 的官方网站获取 API key。访问 OpenAI API keys 页面,生成并复制你的 API key。

访问链接:

https://platform.openai.com/account/api-keys

复制 API Key 后,将其复制进 Dify 的 Model Provider 内。

Tips:如果你无法获取 API Key,Dify 为每个账户提供了一定量的免费额度,帮助你试用 OpenAI o1 模型。

2. 模型价格和 API 访问权限

值得注意的是,o1 系列在性能和能力上的显著提升,也带来了成本的增加。但我们相信,结合 Dify 的应用编排能力,OpenAI 最新的 o1 系列模型可以为用户和企业带来更高的价值。

以 o1-preview 为例:
输入:每 100 万个输入 token 收费 15 美元,是 GPT-4o 成本的三倍。

输出:每 100 万个输出 token 收费 60 美元,是 GPT-4o 成本的四倍。

目前,o1 系列模型的 API 访问权限将首先开放给 Tier 5 级用户,也就是已经在 OpenAI API 上花费超过 1000 美元的用户,且 API 调用速率限制为每分钟 20 次(20 RPM)。

我们为每个账户提供了一定量的免费额度供你试用 OpenAI o1 模型,只需按照 Dify 平台上的指导步骤操作,即可开始试用模型。其中,免费账号可以免费使用 200 条消息,Team 版包含 10,000 条消息额度。

3. 在 Dify 中设置模型供应商

登录 Dify.AI 平台,导航到 设置 > 模型供应商。在这里,你可以看到各种支持的模型供应商。点击“添加供应商”,选择 OpenAI 并输入你的 API key。

4. 选择默认推理模型(可选)

设置 > 模型供应商 页面中,设置 OpenAI o1 模型作为系统默认推理模型。这将确保在创建新的应用时,默认使用 o1 模型。

使用 OpenAI o1 模型

5. 创建应用

首先,登录你的 Dify 账户。在导航栏中选择「工作室」,你将看到一个应用列表。在列表中,选择「从空白创建」来开始创建一个新的应用。

在创建应用之前,你需要了解 Dify 提供的四种不同应用类型:聊天助手、文本生成应用、Agent 和工作流。对于本次创建的应用,我们选择「聊天助手」「工作流编排」。

6. 填写应用信息

在创建应用的过程中,你需要完成以下信息:

  • 应用名称:给你的聊天助手起一个易于识别的名字。

  • 应用图标:选择一个合适的图标,或者上传你喜欢的图片作为图标。

  • 应用描述:使用简洁清晰的文字来描述此应用的用途,以方便后续在团队内的使用。

7. 配置聊天助手

在聊天助手的配置页面中,选择 OpenAI o1 模型作为默认模型。

一旦完成配置,你就可以在 Dify.AI 中的各种应用场景中使用 OpenAI o1 模型。无论是科学研究、代码生成还是复杂的数学问题,o1 模型都能提供强大的推理和解决能力。

随后点击右上角发布为应用,就可以运行并开始使用 OpenAI o1 了。

写在最后

通过本文,您应该对如何在 Dify.AI 平台中配置和使用最新的 OpenAI o1 模型有了清晰的理解。希望这篇指南能帮助您充分利用这些强大的 AI 模型,提高工作效率和创新能力。

值得一提的是,Dify 能够在如此短的时间内支持 OpenAI 最新发布的 o1 系列模型,得益于便捷成熟的模型接入方案。通过预定义模型、自定义模型、从远程获取三种方式,可以在 Dify 迅速添加模型供应商,增加新模型,很大程度上便利了开发者贡献新模型的方式。因此,Dify 支持的模型种类丰富(LLM、Embedding、Rerank、TTS、STT 等),几乎涵盖了市面上所有的模型供应商。我们欢迎开发者加入我们,共同打造 Dify 更完备的模型生态!


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询