微软云布道师团队致力于向软件生态系统中的开发人员和其他人推广领先技术，进一步提高技术教育以及使用 Microsoft 云 + AI 平台的熟练程度。

微软高级云技术布道师卢建晖老师，将通过「云布道师 ‣ 周记」专栏，为您带来 AI +Data 领域新鲜的技术加餐。

围绕着⼈⼯智能，⼈类在不同的⾏业，不同的应⽤场景进⾏了很多的尝试。随着大语言模型（LLMs）的出现，我们从传统的流程预定义加上语义匹配的聊天机器⼈过渡到通过⾃然语⾔和 大语言模型交互的 Copilot 应⽤。在过去⼀年多时间，⼤家基于大语言模型主要集中在基础理论上。在 2024 年我们应该会进入到大语言模型的应⽤场景上。我们拥有非常多的论⽂，应⽤框架，以及⼤公司的实践去⽀撑大语言模型应⽤的落地。那我们所谓的⼈⼯智能应⽤最终的形态是如何的？你可以联想到的是编程辅助的 GitHub Copilot，办公场景的 Microsoft 365 Copilot，以及在 Windows 或者必应上的 Microsoft Copilot 等。但想想 Copilot 的应⽤，更多依赖个体通过提⽰词去引导或者修正，并没有很好地做到全智能化的应⽤。在上世纪 80 年代，我们就开始尝试做全智能化的⼯作，智能体(AI Agent)就是⼀个全智能化的最佳实践。

智能体与所在的场景进⾏交互，接收在应⽤场景的指令或数据，根据该指令或数据决定不同的响应以实现最终的⽬标。智能体不仅具有⼈的思维能⼒，也能模拟⼈的⾏为，它们可以是简单的基于业务流程的系统，也可以像机器学习模型⼀样复杂的体系。智能体都是预先制定的规则或通过机器学习/深度学习训练出来的模型，来配合做出决策，有时候也需要外部控制或监督。

在大语言模型应⽤中有相当多的应⽤实践。

实现智能体有很多的框架，在之前提及的 Semantic Kernel 或者 Autogen 都可以实现智能体。在 OpenAI 下也新增了 Assitants API 来增强模型在智能体的能⼒。现在 OpenAI 的 Assitants API 开放了代码解释、检索和 function calling 的能⼒。Azure OpenAI Service 的 Assitants API 也即将到来，可以说为智能体应⽤能⼒提供了⾜够的智慧。

有很多⼈更关注应⽤层的框架，时常有⼈去比较 Semantic Kernel 和 Autogen ，毕竟两者都出⾃微软，都有很好的任务或者计划编排能⼒，但总有⼈觉得两者有很多相同之处。

Semantic Kernel 专注在 Copilot 应⽤中，对单个任务进⾏有效的步骤划分，这也是 Semantic Kernel Planner API 的魅⼒之处。⽽ Autogen 更专注智能体的构造上，对完成⽬标进⾏任务划分，把任务分配到不同智能体，每个智能体根据分配的任务进⾏单独或者交互式执⾏。每个智能体的任务背后可以是⼀个流式的任务编排，或者是解决问题的扩展⽅法，或者是对应的提⽰语触发的技能，可以结合 Semantic Kernel 的 plugins 进⾏组织。当我们希望有⼀个稳定的任务输出时，还可以加上 prompt flow 来作出输出评估。

Semantic Kernel 在 Experimantal 库中新增了智能体的⽀持，引入了 AgentBuilder，结合 Assitant API 来完成智能体的⼤脑配置⼯作。⽽对应的规划，记忆以及⼯具就使⽤不同的 plugins 进⾏定义。

我们代入⼀个简单的场景，希望通过智能体构建⼀个 .NET 的控制台应⽤，并编译和运⾏，要求通过智能体来完成。从这个场景上看，我们需要两个智能体 - ⽣成 .NET CLI 脚本智能体和运⾏ .NET CLI 脚本的智能体。在 Semantic Kernel 中⾄于所需要的规划，记忆以及⼯具我们就使⽤不同的 plugins 进⾏定义。以下是相关结构图。

智能体会是大语言模型应⽤的⼀个重要场景，构建智能体应⽤会是 2024 年⼀个重要的技术领域。我们现在在智能体主要有三种形式，如单智能体、多智能体，以及混合智能体三种。

Microsoft Semantic Kernel https://github.com/microsoft/semantickernel

Microsoft Autogen https://github.com/microsoft/autogen

Microsoft Semantic Kernel CookBook https://github.com/microsoft/SemanticKernelCookBook

Pursuit of "wicked smartness" in VS Codehttps://code.visualstudio.com/blogs/2023/11/13/vscodecopilot-smarter