微信扫码
与创始人交个朋友
我要投稿
AgentScope是一个创新的多智能体开发平台,旨在赋予开发人员使用大模型轻松构建多智能体应用的能力。
? 高易用:AgentScope专为开发人员设计,提供了丰富的组件, 全面的文档和广泛的兼容性。同时,AgentScope Workstation提供了在线拖拉拽编程和在线小助手(copilot)功能,帮助开发者迅速上手!
✅ 高鲁棒:支持自定义的容错控制和重试机制,以提高应用程序的稳定性。
? 分布式:支持以中心化的方式构建分布式多智能体应用程序。
支持的模型API
AgentScope提供了一系列ModelWrapper
来支持本地模型服务和第三方模型API。
API | Task | Model Wrapper | Configuration | Some Supported Models |
---|---|---|---|---|
OpenAI API | Chat | OpenAIChatWrapper | guidance template | gpt-4o, gpt-4, gpt-3.5-turbo, ... |
Embedding | OpenAIEmbeddingWrapper | guidance template | text-embedding-ada-002, ... | |
DALL·E | OpenAIDALLEWrapper | guidance template | dall-e-2, dall-e-3 | |
DashScope API | Chat | DashScopeChatWrapper | guidance template | qwen-plus, qwen-max, ... |
Image Synthesis | DashScopeImageSynthesisWrapper | guidance template | wanx-v1 | |
Text Embedding | DashScopeTextEmbeddingWrapper | guidance template | text-embedding-v1, text-embedding-v2, ... | |
Multimodal | DashScopeMultiModalWrapper | guidance template | qwen-vl-max, qwen-vl-chat-v1, qwen-audio-chat | |
Gemini API | Chat | GeminiChatWrapper | guidance template | gemini-pro, ... |
Embedding | GeminiEmbeddingWrapper | guidance template | models/embedding-001, ... | |
ZhipuAI API | Chat | ZhipuAIChatWrapper | guidance template | glm-4, ... |
Embedding | ZhipuAIEmbeddingWrapper | guidance template | embedding-2, ... | |
ollama | Chat | OllamaChatWrapper | guidance template | llama3, llama2, Mistral, ... |
Embedding | OllamaEmbeddingWrapper | guidance template | llama2, Mistral, ... | |
Generation | OllamaGenerationWrapper | guidance template | llama2, Mistral, ... | |
LiteLLM API | Chat | LiteLLMChatWrapper | guidance template | models supported by litellm... |
Yi API | Chat | YiChatWrapper | guidance template | yi-large, yi-medium, ... |
Post Request based API | - | PostAPIModelWrapper | guidance template | - |
支持的本地模型部署
AgentScope支持使用以下库快速部署本地模型服务。
ollama (CPU inference)
Flask + Transformers
Flask + ModelScope
FastChat
vllm
支持的服务
网络搜索
数据查询
数据检索
代码执行
文件操作
文本处理
多模态生成
维基百科搜索
TripAdvisor搜索
浏览器控制
样例应用
模型
在AgentScope中使用Llama3
对话
基础对话
带有@功能的自主对话
智能体自组织的对话
兼容LangChain的基础对话
与ReAct智能体对话
通过对话查询SQL信息
与RAG智能体对话
与gpt-4o模型对话
自定义工具函数
与SoftWare Engineering智能体对话
Mixture of Agents算法
流式对话
与CodeAct智能体对话
与Router Agent对话
游戏
五子棋
狼人杀
分布式
分布式对话
分布式辩论
分布式并行优化
分布式大规模仿真
更多模型API、服务和示例即将推出!
AgentScope需要Python 3.9或更高版本。
注意:该项目目前正在积极开发中,建议从源码安装AgentScope。
以编辑模式安装AgentScope:
# 从github拉取源代码git clone https://github.com/modelscope/agentscope.git# 以编辑模式安装包cd agentscopepip install -e .
从pip安装的AgentScope
pip install agentscope
为了支持不同的部署场景,AgentScope提供了若干个可选的依赖项。完整的可选依赖项列表请参考tutorial 以分布式模式为例,可以使用以下命令安装AgentScope:
# From sourcepip install -e .[distribute]# From pypipip install agentscope[distribute]
# From sourcepip install -e .\[distribute\]# From pypipip install agentscope\[distribute\]
AgentScope中,模型的部署和调用是通过ModelWrapper
实现解耦的。
为了使用这些ModelWrapper
, 您需要准备如下的模型配置文件:
model_config = {
# 模型配置的名称,以及使用的模型wrapper
"config_name": "{your_config_name}",# 模型配置的名称
"model_type": "{model_type}", # 模型wrapper的类型
# 用以初始化模型wrapper的详细参数
# ...
}
以OpenAI Chat API为例,模型配置如下:
openai_model_config = {
"config_name": "my_openai_config", # 模型配置的名称
"model_type": "openai_chat", # 模型wrapper的类型
# 用以初始化模型wrapper的详细参数
"model_name": "gpt-4", # OpenAI API中的模型名
"api_key": "xxx",# OpenAI API的API密钥。如果未设置,将使用环境变量OPENAI_API_KEY。
"organization": "xxx", # OpenAI API的组织。如果未设置,将使用环境变量OPENAI_ORGANIZATION。
}
关于部署本地模型服务和准备模型配置的更多细节,请参阅我们的教程。
创建AgentScope内置的DialogAgent
和UserAgent
对象.
from agentscope.agents import DialogAgent, UserAgent
import agentscope
# 加载模型配置
agentscope.init(model_configs="./model_configs.json")
# 创建对话Agent和用户Agent
dialog_agent = DialogAgent(name="assistant",
model_config_name="my_openai_config")
user_agent = UserAgent()
在AgentScope中,Message是Agent之间的桥梁,它是一个python字典(dict),包含两个必要字段name
和content
,以及一个可选字段url
用于本地文件(图片、视频或音频)或网络链接。
from agentscope.message import Msg
x = Msg(name="Alice", content="Hi!")
x = Msg("Bob", "What about this picture I took?", url="/path/to/picture.jpg")
使用以下代码开始两个Agent(dialog_agent和user_agent)之间的对话:
x = Nonewhile True:x = dialog_agent(x)x = user_agent(x)if x.content == "exit": # 用户输入"exit"退出对话break
AgentScope 提供了一个易于使用的运行时用户界面,能够在前端显示多模态输出,包括文本、图像、音频和视频。
参考我们的教程了解更多细节。
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-05-06
2024-07-25
2024-08-13
2024-06-12
2024-07-11
2024-06-16
2024-07-20
2024-09-20
2024-06-15
2024-07-25
2024-12-20
2024-12-19
2024-11-22
2024-11-19
2024-11-13
2024-11-13
2024-10-07
2024-09-22