AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


阿里开源agent 开发平台AgentScope
发布日期:2024-12-23 12:02:20 浏览次数: 1524 来源:GitHubStore


项目简介


AgentScope是一个创新的多智能体开发平台,旨在赋予开发人员使用大模型轻松构建多智能体应用的能力。

  • 高易用:AgentScope专为开发人员设计,提供了丰富的组件, 全面的文档和广泛的兼容性。同时,AgentScope Workstation提供了在线拖拉拽编程和在线小助手(copilot)功能,帮助开发者迅速上手!

  • ✅ 高鲁棒:支持自定义的容错控制和重试机制,以提高应用程序的稳定性。

  • 分布式:支持以中心化的方式构建分布式多智能体应用程序。


支持的模型API

AgentScope提供了一系列ModelWrapper来支持本地模型服务和第三方模型API。


APITaskModel WrapperConfigurationSome Supported Models
OpenAI APIChatOpenAIChatWrapperguidance
template
gpt-4o, gpt-4, gpt-3.5-turbo, ...

EmbeddingOpenAIEmbeddingWrapperguidance
template
text-embedding-ada-002, ...

DALL·EOpenAIDALLEWrapperguidance
template
dall-e-2, dall-e-3
DashScope APIChatDashScopeChatWrapperguidance
template
qwen-plus, qwen-max, ...

Image SynthesisDashScopeImageSynthesisWrapperguidance
template
wanx-v1

Text EmbeddingDashScopeTextEmbeddingWrapperguidance
template
text-embedding-v1, text-embedding-v2, ...

MultimodalDashScopeMultiModalWrapperguidance
template
qwen-vl-max, qwen-vl-chat-v1, qwen-audio-chat
Gemini APIChatGeminiChatWrapperguidance
template
gemini-pro, ...

EmbeddingGeminiEmbeddingWrapperguidance
template
models/embedding-001, ...
ZhipuAI APIChatZhipuAIChatWrapperguidance
template
glm-4, ...

EmbeddingZhipuAIEmbeddingWrapperguidance
template
embedding-2, ...
ollamaChatOllamaChatWrapperguidance
template
llama3, llama2, Mistral, ...

EmbeddingOllamaEmbeddingWrapperguidance
template
llama2, Mistral, ...

GenerationOllamaGenerationWrapperguidance
template
llama2, Mistral, ...
LiteLLM APIChatLiteLLMChatWrapperguidance
template
models supported by litellm...
Yi APIChatYiChatWrapperguidance
template
yi-large, yi-medium, ...
Post Request based API-PostAPIModelWrapperguidance
template
-


支持的本地模型部署

AgentScope支持使用以下库快速部署本地模型服务。

  • ollama (CPU inference)

  • Flask + Transformers

  • Flask + ModelScope

  • FastChat

  • vllm

支持的服务

  • 网络搜索

  • 数据查询

  • 数据检索

  • 代码执行

  • 文件操作

  • 文本处理

  • 多模态生成

  • 维基百科搜索

  • TripAdvisor搜索

  • 浏览器控制

样例应用

  • 模型

    • 在AgentScope中使用Llama3

  • 对话

    • 基础对话

    • 带有@功能的自主对话

    • 智能体自组织的对话

    • 兼容LangChain的基础对话

    • 与ReAct智能体对话

    • 通过对话查询SQL信息

    • 与RAG智能体对话

    • 与gpt-4o模型对话

    • 自定义工具函数

    • 与SoftWare Engineering智能体对话

    • Mixture of Agents算法

    • 流式对话

    • 与CodeAct智能体对话

    • 与Router Agent对话

  • 游戏

    • 五子棋

    • 狼人杀

  • 分布式

    • 分布式对话

    • 分布式辩论

    • 分布式并行优化

    • 分布式大规模仿真

更多模型API、服务和示例即将推出!


安装

AgentScope需要Python 3.9或更高版本。

注意:该项目目前正在积极开发中,建议从源码安装AgentScope。

从源码安装

  • 以编辑模式安装AgentScope:


# 从github拉取源代码git clone https://github.com/modelscope/agentscope.git# 以编辑模式安装包cd agentscopepip install -e .

使用pip

  • 从pip安装的AgentScope


pip install agentscope

额外依赖

为了支持不同的部署场景,AgentScope提供了若干个可选的依赖项。完整的可选依赖项列表请参考tutorial 以分布式模式为例,可以使用以下命令安装AgentScope:

On Windows

# From sourcepip install -e .[distribute]# From pypipip install agentscope[distribute]

On Mac & Linux

# From sourcepip install -e .\[distribute\]# From pypipip install agentscope\[distribute\]


快速开始

配置

AgentScope中,模型的部署和调用是通过ModelWrapper实现解耦的。

为了使用这些ModelWrapper, 您需要准备如下的模型配置文件:

model_config = {# 模型配置的名称,以及使用的模型wrapper"config_name": "{your_config_name}",# 模型配置的名称"model_type": "{model_type}", # 模型wrapper的类型
# 用以初始化模型wrapper的详细参数# ...}

以OpenAI Chat API为例,模型配置如下:

openai_model_config = {"config_name": "my_openai_config", # 模型配置的名称"model_type": "openai_chat", # 模型wrapper的类型
# 用以初始化模型wrapper的详细参数"model_name": "gpt-4", # OpenAI API中的模型名"api_key": "xxx",# OpenAI API的API密钥。如果未设置,将使用环境变量OPENAI_API_KEY。"organization": "xxx", # OpenAI API的组织。如果未设置,将使用环境变量OPENAI_ORGANIZATION。}

关于部署本地模型服务和准备模型配置的更多细节,请参阅我们的教程。


创建Agent

创建AgentScope内置的DialogAgentUserAgent对象.

from agentscope.agents import DialogAgent, UserAgentimport agentscope
# 加载模型配置agentscope.init(model_configs="./model_configs.json")
# 创建对话Agent和用户Agentdialog_agent = DialogAgent(name="assistant", model_config_name="my_openai_config")user_agent = UserAgent()

构造对话

在AgentScope中,Message是Agent之间的桥梁,它是一个python字典(dict),包含两个必要字段namecontent,以及一个可选字段url用于本地文件(图片、视频或音频)或网络链接。

from agentscope.message import Msg
x = Msg(name="Alice", content="Hi!")x = Msg("Bob", "What about this picture I took?", url="/path/to/picture.jpg")

使用以下代码开始两个Agent(dialog_agent和user_agent)之间的对话:

x = Nonewhile True:x = dialog_agent(x)x = user_agent(x)if x.content == "exit": # 用户输入"exit"退出对话break


AgentScope前端

AgentScope 提供了一个易于使用的运行时用户界面,能够在前端显示多模态输出,包括文本、图像、音频和视频。

参考我们的教程了解更多细节。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询