AI Agents 现状报告，未来可期 or 强弩之末？
发布日期：2024-11-25 06:17:07
浏览次数： 1557
来源：特工宇宙
LangChain 最近调查了 1,300 多名专业人士——从工程师和产品经理到企业领导者和高管——以揭示 AI Agents 的现状。通过深入研究数据，详细分析 AI Agents 如今如何被使用（或不使用）。原文地址：https://www.langchain.com/stateofaiagents
介绍
2024 年，AI Agents 不再是小众市场。各行业的公司越来越重视将 Agent 纳入他们的工作流当中 - 从自动化完成日常任务到协助数据分析或编写代码。但这背后到底发生了什么？AI Agents 是否发挥了其潜力，或者它们只是一个流行词？LangChain 对 1,300 多名专业人士进行了调查，以了解 2024 年 AI Agents 的现状。
详细分析
什么是 Agent？
在 LangChain 中，将 Agent 定义为使用 LLM 来决定应用的控制流系统。就像自动驾驶具有不同程度的自主级别一样， Agent 也有不同程度的能力范围。企业采用 Agent 与否，就像掷硬币一样，但几乎每个人都计划过
Agent 的竞争正在白热化。在过去的一年里，许多 Agent 框架获得了巨大的流行——无论是使用 ReAct 来结合 LLM 进行推理和执行、多智能体框架，还是像 LangGraph 这样更可控的框架。并非所有关于 Agent 的讨论都是推特上的炒作。目前，大约 51% 的受访者表示在生产中使用 Agent。当我们按公司规模查看数据时，中型公司（100 - 2000 名员工）在将 Agent 投入生产最为积极（占 63%）。振奋人心的是， 78% 的企业积极计划尽快将 Agent 投入生产。尽管人们对 Agent 的需求显然很强烈，但实际的生产部署对许多人来说仍然是一个障碍。我们还观察到公司从基于 Chat 的简单应用，转向强调多智能协作和更自主的功能的更高级框架。虽然科技行业通常被认为是 Agent 的早期采用者，但所有行业对 Agent 的兴趣正在日益受到关注。在非科技公司工作的受访者中，90% 已经或计划将 Agent 投入生产（几乎与科技公司相同，为 89%）。领先的 Agent 用例
人们使用 Agent 的目的是什么？Agent 不仅要处理日常任务，还要为知识工作的新可能性打开大门。Agent 的首要应用场景包括进行研究和总结（58%），其次是简化任务以提高个人生产力或协助（53.5%）。这表明人们希望有人（或某物）为他们处理耗时的任务。用户可以依靠 AI Agent 从大量信息中提取关键的见解，而不是筛选数不清的数据来进行文献综述或研究分析。同样，AI Agent 通过协助安排和组织日常任务来提高个人生产力，使用户能够专注于重要的事情。效率提升不仅限于个人。客户服务 (45.8%) 是 Agent 用例的另一个主要领域，帮助公司跨团队处理查询、排除故障并加快客户响应时间。出于安全考虑，需要措施来控制 Agent
至少需要为你的 Agent 提供一些控制装置。追踪（Tracing）和观察工具（observability tools）是最常用的工具手段，可帮助开发人员了解 Agent 的行为和性能。大多数公司还采用人工监督的措施，来防止 Agent 偏离路线。不同规模的公司在 Agent 管制方面的优先级也不同。不出意外，较大的企业（2000 多名员工）更加谨慎，使用“只读”权限以避免不必要的风险。他们还倾向于将防护与离线评估结合起来，确保在客户看到任何响应之前，产品已经经过了充分的测试。与此同时，小公司和初创公司（<100 员工）更专注于追踪，以了解其 Agent 应用程序中发生的情况（相对于其他控件）。从我们的访谈中了解到，小公司倾向于把重点放在产品上，并仅通过查看数据来了解上线后的结果；而大型企业则在各个方面都设置了更多的控制措施。虽然非科技公司和科技公司受访者的 Agent 采用率相似，但在生产中使用 Agent 控制的受访者中，科技公司更有可能使用多种控制方法。51% 的科技受访者目前正在使用两种或更多控制方法，而其他行业的受访者只有 39%。这表明科技公司在建立可靠的 Agent 方面可能会走得更远，因为高质量的体验需要控制。让 Agent 投入生产的障碍和挑战
保持 LLM 应用表现的高质量——从回答是否准确或者是否遵循正确的风格——并不容易。性能质量是受访者最关心的问题，其重要性是成本和安全等其他因素的两倍多。使用 LLMs 来控制工作流的 Agent 固有的不可预测性会带来更多出错的可能性，使得团队很难确保他们的 Agent 始终提供准确、适合上下文的响应。特别是对于小公司来说，性能质量远远超过其他考虑因素，45.8% 的公司将其视为主要问题，而只有 22.4% 的公司认为是成本（第二大问题）。这一差距凸显了可靠、高质量的性能对于组织将 Agent 从开发转向生产的重要性。虽然质量仍然是企业的首要考虑因素，但对于这些必须遵守法规并更敏感地处理客户数据的大型公司来说，安全问题也很普遍。挑战并不止于质量。从写入的回复来看，许多人对构建和测试 Agent 的最佳实践感到不确定。特别是，有两个主要障碍很突出：知识和时间。知识：团队经常难以掌握与 Agent 合作所需的技术知识，包括针对特定用例实施这些技术知识。许多员工仍在学习诀窍，需要提高技能才能有效地利用 Agent。时间：构建和部署所需的时间投入非常大，尤其是在尝试确保 Agent 可靠运行时 - 这可能需要调试、评估、微调等。Agent 成功案例：Cursor 抢尽风头
Cursor 荣登我们调查中最受关注的 Agent 应用，紧随其后的是 Perplexity 和 Replit 等应用程序。Cursor 是一款 AI 驱动的代码编辑器，可通过自动补全和上下文问答，辅助开发人员编写、调试和解析代码。Replit 还通过设置环境、配置并让您在几分钟内构建和部署功能齐全的应用程序来加速软件开发周期。Perplexity 是一种人工智能驱动的答案引擎，可以通过网络搜索和回复中的链接源，来回答复杂的问答。
这些应用程序正在突破 Agent 功能的界限，表明 Agent 不再是理论上的——它们正在解决当今生产环境中的实际问题。Agent 应用的新兴主题
从我们的访谈中，我们看到组织在将 Agent 引入其工作流程时面临着许多不断变化的期望和挑战。但团队建设 Agent 也需要考虑一些挑战。包括：理解 Agent 行为的障碍。几位工程师表示，他们在向公司的其他利益相关者解释 Agent 的功能和行为时遇到了困难。有时，一些额外的可视化步骤可以解释 Agent 响应所发生的情况。其他时候， LLM 仍然是一个黑匣子。可解释性的额外负担留给了工程团队。尽管面临挑战，但以下领域仍然引起了人们的关注和活力：
结论
整合 Agent 的竞赛已经开始，因为公司已经开始重塑工作流程，并通过 LLMs 来设计他们的未来，以改善决策和人类生产力。尽管兴奋不已，但公司也意识到他们必须谨慎行事，采取正确的控制措施来监督新的用例和应用。团队热切但谨慎，尝试各种框架，试图保持 Agent 响应的高质量和无幻觉。展望未来，能够破解可靠、可控 Agent 代码的公司将在下一波人工智能创新浪潮中占据领先地位，并开始为智能自动化的未来制定标准。
访谈对象
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
粤ICP备17114055号
支持私有云部署
