6. 关于AI应用开发的一些想法

1. Autogen是什么？

AutoGen是微软公司开源的多智能体(Mutiple Agents)应用开发框架，多智能体应用让不同的Agent之间相互交流沟通来解决问题。
更大白话一些，在公司里，老板如果有一个事情要办，通常会让秘书组织一个会议，把相关的人拉到会议室里，然后告诉他们自己的目标，比如要半年实现一百倍的增长，下面的人就会相互扯皮讨论，但是最终还是琢磨出一个不靠谱的方法把事儿给办了。

你可能不是老板，但是可以通过AutoGen创建几个Agent，一起玩Cosplay。你扮演老板，给Agent分配不同的角色，比如项目经理，程序员，或者主管等。把你的目标告诉它们，让它们任意去想办法，你只要在一旁听汇报，如果觉得有意见或者它们做得不对的地方，就让它们改，直到满意为止。
如果要提供一个开发框架，让开发人员能够在这个框架的基础上开发出不同的应用，那么这个框架要实现哪些能力呢？把"大象放进冰箱"分三步:

1. 能够创建一个Agent，就是单独创建不同的Agent，让他们担任不同的角色，分配必要的工具，负责具体的任务；

2. 提供多个Agent对话的环境，将多个Agent放到一个"小黑屋"里，让他们之间能够相互对话，把对话记录下来；

3. 对对话进行管理，比如发言顺序，什么时候会议结束，对话过程是不是跑偏。

基本上AutoGen就是预先把这些功能都实现了，开发人员要做的只是明确任务，创建Agent，把Agent拉到聊天室里，让他们开聊。

2. 为什么需要Multi-Agent框架

3. AutoGen的基本原理

1. 能够创建一个Agent，AutoGen定义了一些Agent的类，用于定义和实例化特定的Agent。这些Agent具有基本的对话能力，能够根据接收到的消息，生成回复。最简单的，创建两个Agent，就能够让他们一对一的闲聊起来。
2. 提供多个Agent对话的环境，通过GroupChat类来管理一个具有多个Agent参与的群聊环境，在这个GroupChat中来维护管理聊天记录、发言者选择/转换规则、谁是下一个发言者、什么时候群聊终止等；
3. 对群聊进行管理，群聊的实际管理是由一个GroupChatManager来实现的，GroupChatManager也是一个Agent，GroupChat提供了一个环境，交给GroupChatManager来实际管理这个环境。

3.1 单个Agent

一个最简单的AutoGen helloworld 应用就是下面的样子:

from autogen import UserProxyAgent, ConversableAgent, config_list_from_json

def main():
    # Load LLM inference endpoints from an env variable or a file
    # 从文件或者环境变量中加载LLM的推理端点
    # 具体参看https://microsoft.github.io/autogen/docs/FAQ#set-your-api-endpoints
    # 以及 OAI_CONFIG_LIST_sample.
    # 例如，如果你在当前工作目录下创建了一个 OAI_CONFIG_LIST 的文件，那么这个文件就会被用来作为配置文件
    config_list = config_list_from_json(env_or_file="OAI_CONFIG_LIST")

    #利用LLM来创建一个Assistant Agent,这个LLM是在上面的配置文件里指定的。
    assistant = ConversableAgent("agent", llm_config={"config_list": config_list})

    #创建一个用户代理，这个用户代理就代表你，你可以随时加入对话中
    user_proxy = UserProxyAgent("user", code_execution_config=False)

    #让assistant来开始这个对话，如果用户输入 exit，那么对话就会被终止。
    assistant.initiate_chat(user_proxy, message="How can I help you today?")

if __name__ == "__main__":
    main()

• name属性：每个Agent必须有一个属性。
• description属性：每个Agent必须有个自我介绍，描述自己的能干啥和一些行为模式。
• send方法：发送消息给另一个Agent。
• receive方法：接收来自另一个代理的消息Agent。
• generate_reply方法：基于接收到的消息生成回复，也可以同步或异步执行。

def my_tool_function(param1, param2):
    # 实现工具的功能
    return result

agent = ConversableAgent(...)
agent.register_function({"my_tool_function": my_tool_function})

1. 提示词，system_message，就是这个Agent的基本提示词
2. 能调用的工具，取决于给Agent提供了哪些工具，在AssistantAgent默认没有配置任何工具，但是提示它可以生成python代码，交给UserProxyAgent来执行获得返回，相当于变相的拥有了工具
3. 回复逻辑，如果你希望在过程中掺入一点私货而不是完全交给LLM来决定，那么可以在generate_reply的方法中加入一点其他逻辑来控制Agent返回回复的逻辑，例如在生成回复前去查询知识库，参考知识库的内容来生成回复。

3.2 两个Agent之间对话

实际的代码是：

import os
from autogen import ConversableAgent

#构造student_agent实例
student_agent = ConversableAgent(
    name="Student_Agent",
    system_message="You are a student willing to learn.",
    llm_config={"config_list": [{"model": "gpt-4", "api_key": os.environ["OPENAI_API_KEY"]}]},
)

#构造teacher_agent实例
teacher_agent = ConversableAgent(
    name="Teacher_Agent",
    system_message="You are a math teacher.",
    llm_config={"config_list": [{"model": "gpt-4", "api_key": os.environ["OPENAI_API_KEY"]}]},
)

#初始化一个聊天，由student_agent发出，接收方式teacher_agent
chat_result = student_agent.initiate_chat(
    teacher_agent,
    message="What is triangle inequality?",
    summary_method="reflection_with_llm",
    max_turns=2,
)

代码是:

# Start a sequence of two-agent chats.
# Each element in the list is a dictionary that specifies the arguments
# for the initiate_chat method.
chat_results = AgentA.initiate_chats(
    [
        {
            "recipient": AgentB,
            "message": "初始的message",
            "max_turns": 2,
            "summary_method": "last_msg",
        },
        {
            "recipient": AgentC,
            "message": "需要给AgentC的message",
            "max_turns": 2,
            "summary_method": "last_msg",
        },
        {
            "recipient": AgentD,
            "message": "需要给AgentD的message",
            "max_turns": 2,
            "summary_method": "last_msg",
        },
        {
            "recipient": AgentE,
            "message": "需要给AgentE的message",
            "max_turns": 2,
            "summary_method": "last_msg",
        },
    ]
)

3.3 多个Agent的群聊

1. 自动选择: "auto"下一个发言者由LLM来自动选择；
2. 手动选择："manual"由用户输入来决定下一个发言者；
3. 随机选择："random"随机选择下一个发言者；
4. 顺序发言："round_robin" ：根据Agent顺序轮流发言
5. 自定义的函数：通过调用函数来决定下一个发言者；

3.4 群聊嵌套

4. AutoGen能做什么

4.1 基本的场景

AutoGen的论文里举了6种场景。

4.2 更高阶一点的玩法

from autogen.agentchat.contrib.agent_builder import AgentBuilder

#步骤1，创建AgentBuilder的实例 
builder = AgentBuilder(config_file_or_env=config_file_or_env, builder_model='gpt-4-1106-preview', agent_model='gpt-4-1106-preview')  

#步骤2，指定任务 
building_task = "Find a paper on arxiv by programming, and analyze its application in some domain. For example, find a latest paper about gpt-4 on arxiv and find its potential applications in software."

#步骤3，创建群聊的Agent，这一步会返回一个agent_list和agent的配置 
agent_list, agent_configs = builder.build(building_task, default_llm_config, coding=True)  

#步骤4，利用返回的agent_list和agent_configs构建群聊，并且将任务交给群聊去执行。

5. AutoGen的可视化界面AutoGen Studio

6. 关于AI应用开发的一些想法