导读

通过阅读本文，你将收获：

• 如何纯可视化交互5分钟定制自己企业级AI应用

• 开源代码

在本文中， 一方面我将解释如何使用 Claude 3 和 Mistral large 与 Tasking AI， 另一方面会介绍为什么开源的Tasking AI 对于任何希望构建AI应用程序并在生成式人工智能领域开展业业务的个人，公司来说都如此重要

它是一个改变游戏规则的项目！

什么是Tasking AI？

TaskingAI 引入了 AI 原生应用开发的新时代，提供了前所未有的简单和创新方法来构建我们的AI业务。

使用 TaskingAI，构建由有状态 API 支持的交互式AI助手变得相当容易。

无论您是编程新手还是老手，LLM 应用程序的易用界面和开发工具包使应用程序开发高效灵活。

Tasking AI的特点

Tasking AI 平台是一个真正的一体化解决方案，它让您通过统一的 API 和直观的可视化控制台来访问众多的AI 大模型，用于测试你的Pipeline

其受 BaaS 的启发，设计人员将AI逻辑与产品开发分离，为从原型开发到使用 RESTful API 和 SDK 构建可扩展解决方案提供了非常清晰的路径和系统架构。

我们可以使用牛叉的工具和先进的检索辅助生成系统进行定制。

此外，它利用 Python FastAPI 的异步能力，实现高性能、并发计算和访问和无与伦比的可扩展性。

Tasking AI是如何工作的？

使用 Tasking AI , 我们可以创建 AI 助手或聊天机器人，初始的步骤涉及选择流行的开源或商业 LLM（Large Language Model）的大型语言模型，如 GPT-3.5、Gemini、Llama 等。

Tasking AI 整合了内置的Memory系统，使 LLM 能够访问聊天记录以增强响应生成。

它还支持各种vector存储，以便我们快速实现 RAG 系统。

这个功能让您可以轻松连接不同的数据源，比如纯文本。PDF，并将这些数据加入我们自己的AI系统

此外，Tasking AI 支持多种工具(tools)，允许 LLM 提供额外的信息来源或执行任意操作。用户可以通过 Tasking AI 提供的 API 与助手进行交互，该 API 为此目的提供了有状态的 API。

构建 AI 聊天机器人

Tasking AI 提供了一个用户友好的界面，简化了构建 AI 助手的过程。只需点击几下，就可以创建一个定制的助手，并添加专业工具和数据源，以增强其功能。    

此外，Tasking AI 提供了一个playground，可以方便地测试AI助手。

开始使用Tasking AI的第一步是为助手选择一个大模型。Tasking AI 支持各种开源和商业模型，包括来自 OpenAI 的模型。

在以下例子中，我们将选择 GPT-4 作为我们的大模型。为此你需要为模型提供一个名称，并输入 OpenAI API 密钥（注意：这里显示的密钥将不起作用，使用自己的就可以）。

P.S. 使用国内外的模型， 流程都类似。

一旦模型创建完成，就可以选择编辑或删除它。

接下来，我们将创建助手，使用刚刚设置的语言模型。点击“新助手”按钮，给它起一个名字和一个可选的描述，然后选择为助手创建的语言模型。 

你可以通过定义系统Prompt进一步定制你的助手，指导助手如何回应用户的查询，从而塑造不一样的角色。

你还可以启用memory功能，允许助手访问聊天记录。连接外部数据源并使用自定义工具可以显著增强助手的能力。

创建助手后，可以根据需要进行编辑或删除。要测试助手，转到playground，选择创建的助手，开始新的聊天，并在聊天框中提问。    

例如，可以问：“告诉我最后一个值得投资的加密货币”，然后按下“生成”按钮，查看助手的回应。

现在你已经创建了一个强大的聊天机器人，而不需要编写一行代码。

为了进一步扩展助手功能，可以通过转到“工具”选项卡，选择“插件”子页面，并点击“新插件”按钮来添加集成第三方服务的自定义工具。    

点击 Google 搜索 API，然后点击下一个按钮。转到 Google Dev，复制 API 密钥，并粘贴。

最后，点击确认按钮。

确认并将此工具添加到助手，就可以在playground测试它，通过提问诸如“告诉我最后一个值得投资的加密货币。”的问题。

AI 助手将运行定义的工具，收集必要的信息，分析数据，并生成相关的响应，列出关于该主题的相关信息。   

你还可以利用其他工具进行不同的应用，比如为特定位置检索股票价格或天气信息。这使你能够构建符合你需求的能干助手。

最后，您可以通过连接外部数据源或集合来实现检索增强生成（RAG）系统。

这个过程需要一个文本嵌入模型，将您的数据转换成一个嵌入表示，以便语言模型可以处理。

你可以通过选择一个名称并提供 API 密钥来选择一个文本嵌入模型。如果你正在使用 OpenAI 模型，你也可以使用 OpenAI 的嵌入模型。

APIs

Tasking AI 也有一个 Python 的 SDK。它包括不同的 API，用于连接 AI 助手的不同部分。可以在 Tasking AI 文档中了解更多关于 API 的信息。

这是一个与聊天模型交互的示例代码。首先，您需要导入所需的AI。然后，提供模型 ID 来指定选择的语言模型。

例如，您可以将 GPT-3.5 指定为模型。接下来，定义一个聊天完成任务，并将您的模型 ID 和输入消息传递给它。通过运行此任务，可以从模型获得输出响应。    

结论

TaskingAI 是一个旨在简化和创新 AI 原生应用开发的平台。它提供了一个用户友好的界面和框架，将前端和后端分离，使开发人员能够高效地构建和集成大型语言模型（LLMs）到他们的应用程序中。

获取代码

后台输入：taskingai代码   获取代码链接

关注公众号
后台发送"AI应用"，"RAG"，"大模型" 获取更多相关文章