支持私有云部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


AI Agent:构建以数据为中心的智能体

发布日期:2025-03-16 15:44:16 浏览次数: 1577 来源:阿里云云原生
推荐语

AI Agent的发展趋势和实践,为你揭示构建智能体的关键要素。

核心内容:
1. AI Agent的演进趋势:从单Agent到多Agent的转变
2. 智能体核心竞争力构建:模型、数据和场景的重要性
3. 数据飞轮:如何打造和优化高质量数据体系

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家

在过去一年里大模型领域主要有两大领域的热点,一个是 LLM,几乎每月速度革新,大家关心的是效果和成本。另一个是 AI Agent,大家尝试解决各个领域应用问题,大家关心的是场景和竞争力。下面我们重点分享一下 AI Agent 的趋势和实践。

AI Agent 洞察




Cloud Native

AI Agent 在从单 Agent 到多 Agent 加速演进;以数据为核心的智能体平台会加速形成;构建高质量数据和持续优化数据质量能力会是智能体成功的关键。

AI Agent 架构和发展趋势

什么是智能体?

AI Agent 是一种能够感知环境、自主决策并执行行动的智能实体,具备通过独立思考和调用工具逐步完成目标的能力。

为什么要智能体呢?
因为 LLM 只是模拟人脑神经元推理过程,如果要完成一个具体的现实任务,还是需要像人一样有言耳鼻舌身的感知系统,有记忆和经验辅助决策,最后行动。
智能体的发展趋势

在过去 1 年时间里大家更多在探索各种固定的,单任务的智能体,解决一个个具体小问题。从今年开始大家开始构建智能体平台和范式,提升多 Agent 协同,编排,优化数据质量体系。终态是具备一个超级智能体,一站式解决所有问题,通用人工智能真正到来。

考虑到通用性和专业性,很多时候需要平衡,成本和效果也需要平衡,AGI 到来仍需要一定时间,因此我们判断未来主要方向是以数据为中心的多智能体协同模式。

AI Agent 竞争力构建

AI Agent 构建过程中我们思考第一个问题是,智能体的核心竞争力是什么?

我们认为模型 + 数据 + 场景是构建 AI 产品竞争力的三个关键点。

1、模型把公域数据挖掘的比较充分了,下一步重点可能是成本和性能(DeepSeek在加速推动发生)。
2、私域数据是每个公司的核心壁垒,需要做的是充分挖掘私域数据,沉淀好数据,持续优化数据,释放最大客户价值。生产资源足够好,有底层模型生产力加持,可以持续演进。

3、找到自己领域高频,结构化和风险可控的场景,逐步延伸场景的专业性,帮助客户提升效率。如我们 DEVOPS 领域的智能编码,灵码在代码辅助高频场景突破,通过灵码提升大家构建智能体效率。

AI Agent 数据飞轮

大家都知道数据是核心竞争力,那如何打造自己领域高质量数据呢?

首先我们每个应用能够从客户收集和沉淀数据,这部分数据是个性化和专业性的前提。其次我们每个领域都有自己的专业数据和 SOP,可以结合客户数据高效解决客户问题。

当我们构架好智能体要发布客户,需要提前对数据和效果构建数据评测集,以便满足客户对 SLA 的确定性要求。上线后我们需要收集客户反馈数据,通过反馈数据分析优化我们的行业数据,工具集,场景。

通过左边评估数据体系持续优化右边私域高质量数据体系。完成客户诉求到数据的高质量匹配。从而让这个飞轮持续转起来,持续优化企业竞争力!


AI Agent:构建以数据为中心智能体平台

上面四类数据用什么系统去承载和流转呢?

我们的答案是构建以数据为中心的智能体平台。

1、构建好企业知识库,通过平台工具将数据转换成 Markdown,然后推到向量数据库,构建领域数据;通过工具集帮助Agent获取结构化客户数据。
2、构建数据评测集和自动化智能化数据评估体系。
3、在前台构建客户反馈和跟踪体系。
4、通过多 Agent 架构进行数据和任务的自动流转。

AI Agent:全局技术架构

那如何构建多 Agent 架构呢?
阿里巴巴在去年云栖大会推出了 Spring-AI-Alibaba 框架和生态工具集合,助理企业构建智能体。
  • 通过 Higress 一键集成系统数据和工具集,获取私域客户数据。
  • 通过 Otel 观测体系完成全链路的数据质量观测。
  • 通过 Nacos 动态更新提示词数据,实时查看优化效果。
  • 通过 Apache RocketMQ 动态更新 RAG 数据,实时反馈和优化数据。


AI Agent 实践




Cloud Native

通过上面介绍大家构建以数据为中心智能体的重大意义和趋势。下面我们重点分享阿里巴巴在落地 AI Agent 的最佳实践,以便给大家做一个参考,加速 AI 时代到来~

AI Agent 实践(Higress:一键集成多种数据源)

Higress 是阿里开源的 AI 原生 API 网关,具备行业最全 AI 生态插件,能够帮助开发者一键集成多种数据源。
  • 支持对接多种模型,Higress 可以一键集成多种模型,统一协议,统一权限,统一容灾;
  • 通过搜索工具获取领域数据,通过 MCP Server 获取客户数据,整合推理需要的完整数据。
  • 统一数据格式转换,通过缓存和向量检索构建长短期记忆数据,降低 LLM 调用,降低成本,提升性能和吞吐。
  • 集成可观测体做数据合规,数据质量评估。

AI Agent 实践(Otel:全链路数据质量追踪)

我们基于 Otel 观测体系能够自动的分析推理过程中效果,召回效果。效果不好,可以全链路追踪客户整个检索和推理过程,分析是知识库问题,RAG 问题,还是工具集问题,提升优化数据效率。


AI Agent 实践(Nacos:动态更新提示词数据)

Agent 中有大量提示词,算法等参数,通过 Nacos 可以做到动态实时推送,及时获得优化的效果。如果系统上线担心修改提示词效果不符合预期,还可以通过灰度配置逐步观测优化提示词数据的效果。

AI Agent 实践(Apache RocketMQ:提升 RAG 数据实时性)

系统数据和客户数据都是不断更新的,我们可以通过 RocketMQ 把变更事件和数据实时同步,以便每次推理能拿到最及时数据和效果。

AI Agent 实践(AI 行业专家解决方案)

我们通过上面技术体系构建开源 AI 专家和阿里云云原生 API 网关和微服务引擎 MSE 两个产品的智能诊断体系,解决 95% 以上咨询问题,解决 85% 以上异常问题。

通过 Higress 屏蔽底层多个模型,工具体系,构建数据安全链路和账号安全体系, 通过 Spring-AI-Alibaba 构建 Agent 和编排,提供 chat 模式解决咨询问题, Composer 模式解决客户异常问题。

AI Agent 实践(DeepSeek 联网搜索+数据安全解决方案)

DeepSeek 很火,用过的同学都知道,能联网的 DeepSeek 还是真正的满血版。

目前大量客户通过 Higress 一键集成 DeepSeek 和联网能力,集成夸克搜索数据,体验最佳能力。通过 Higress 能够在模型访问链路上全链路 TLS,保护链路数据安全。通过内容安全解决数据合规安全问题。通过 API-Key 集中管理,提高并发度,对 Agent 提供内部 API-Key,防止 API-Key 泄漏风险,并且可以根据内部 API-Key 做流量和额度控制,防止代码 bug 导致巨大 token 调用和巨大费用支出


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询