AI Agent：构建以数据为中心的智能体

在过去一年里大模型领域主要有两大领域的热点，一个是 LLM，几乎每月速度革新，大家关心的是效果和成本。另一个是 AI Agent，大家尝试解决各个领域应用问题，大家关心的是场景和竞争力。下面我们重点分享一下 AI Agent 的趋势和实践。

AI Agent 在从单 Agent 到多 Agent 加速演进；以数据为核心的智能体平台会加速形成；构建高质量数据和持续优化数据质量能力会是智能体成功的关键。

AI Agent 是一种能够感知环境、自主决策并执行行动的智能实体，具备通过独立思考和调用工具逐步完成目标的能力。

在过去 1 年时间里大家更多在探索各种固定的，单任务的智能体，解决一个个具体小问题。从今年开始大家开始构建智能体平台和范式，提升多 Agent 协同，编排，优化数据质量体系。终态是具备一个超级智能体，一站式解决所有问题，通用人工智能真正到来。

考虑到通用性和专业性，很多时候需要平衡，成本和效果也需要平衡，AGI 到来仍需要一定时间，因此我们判断未来主要方向是以数据为中心的多智能体协同模式。

我们认为模型 + 数据 + 场景是构建 AI 产品竞争力的三个关键点。

3、找到自己领域高频，结构化和风险可控的场景，逐步延伸场景的专业性，帮助客户提升效率。如我们 DEVOPS 领域的智能编码，灵码在代码辅助高频场景突破，通过灵码提升大家构建智能体效率。

大家都知道数据是核心竞争力，那如何打造自己领域高质量数据呢？

首先我们每个应用能够从客户收集和沉淀数据，这部分数据是个性化和专业性的前提。其次我们每个领域都有自己的专业数据和 SOP，可以结合客户数据高效解决客户问题。

当我们构架好智能体要发布客户，需要提前对数据和效果构建数据评测集，以便满足客户对 SLA 的确定性要求。上线后我们需要收集客户反馈数据，通过反馈数据分析优化我们的行业数据，工具集，场景。

通过左边评估数据体系持续优化右边私域高质量数据体系。完成客户诉求到数据的高质量匹配。从而让这个飞轮持续转起来，持续优化企业竞争力！

上面四类数据用什么系统去承载和流转呢？

我们的答案是构建以数据为中心的智能体平台。

• 通过 Higress 一键集成系统数据和工具集，获取私域客户数据。
• 通过 Otel 观测体系完成全链路的数据质量观测。
• 通过 Nacos 动态更新提示词数据，实时查看优化效果。
• 通过 Apache RocketMQ 动态更新 RAG 数据，实时反馈和优化数据。

通过上面介绍大家构建以数据为中心智能体的重大意义和趋势。下面我们重点分享阿里巴巴在落地 AI Agent 的最佳实践，以便给大家做一个参考，加速 AI 时代到来～

• 支持对接多种模型，Higress 可以一键集成多种模型，统一协议，统一权限，统一容灾；
• 通过搜索工具获取领域数据，通过 MCP Server 获取客户数据，整合推理需要的完整数据。
• 统一数据格式转换，通过缓存和向量检索构建长短期记忆数据，降低 LLM 调用，降低成本，提升性能和吞吐。
• 集成可观测体做数据合规，数据质量评估。

我们基于 Otel 观测体系能够自动的分析推理过程中效果，召回效果。效果不好，可以全链路追踪客户整个检索和推理过程，分析是知识库问题，RAG 问题，还是工具集问题，提升优化数据效率。

Agent 中有大量提示词，算法等参数，通过 Nacos 可以做到动态实时推送，及时获得优化的效果。如果系统上线担心修改提示词效果不符合预期，还可以通过灰度配置逐步观测优化提示词数据的效果。

系统数据和客户数据都是不断更新的，我们可以通过 RocketMQ 把变更事件和数据实时同步，以便每次推理能拿到最及时数据和效果。

我们通过上面技术体系构建开源 AI 专家和阿里云云原生 API 网关和微服务引擎 MSE 两个产品的智能诊断体系，解决 95% 以上咨询问题，解决 85% 以上异常问题。

通过 Higress 屏蔽底层多个模型，工具体系，构建数据安全链路和账号安全体系， 通过 Spring-AI-Alibaba 构建 Agent 和编排，提供 chat 模式解决咨询问题， Composer 模式解决客户异常问题。

DeepSeek 很火，用过的同学都知道，能联网的 DeepSeek 还是真正的满血版。

更多交流，欢迎加群～

招聘