Ray Summit 2024 亮点抢先看!蚂蚁分布式 AI Agent 框架首次亮相!
发布日期:2024-09-27 18:33:56
浏览次数: 1782
来源:Ray中文社区
2024 年 9 月 30 日-10 月 2 日,Ray Summit 2024 将在美国旧金山举行。作为 Ray 社区的年度盛会,今年 Ray Summit 的主题是“Where Builders Create the AI Future”,蚂蚁集团也将受邀在会上介绍我们的最新工作——基于 Ray 的分布式 AI Agent 框架。蚂蚁之于 Ray:第二大贡献者,150 万 CPU 集群部署
蚂蚁是最早参与 Ray 项目并将其实际应用到生产场景中的公司,从 2017 年成立 Ray 团队至今,已为社区贡献了大量代码,是 Ray 社区第二大的贡献者,同时在国内承担了 Ray 中文社区的运营工作。
Ray 作为通用计算引擎,在蚂蚁内部已应用于各种计算场景,例如AI在线服务、离线数据处理 AIFlow、图计算引擎 Geaflow、媒体计算引擎 Mellow、在线学习 Mobius、函数计算 FC、科学计算框架 Mars、运筹优化等等。截至今年,Ray 在蚂蚁已稳定运行着 150 万 CPU 核数的计算资源规模。在今年 Ray 社区达到 1000 位贡献者之际,Anyscale 的 Co-Founder Robert Nishihara 也专门发文肯定了蚂蚁在其中杰出的贡献,并且预告了我们今年要在 Ray Summit 上介绍的最新工作——基于 Ray 的分布式 AI Agent 框架。在 Agent 应用生产化过程中,我们观察到其具有很多独特需求是传统服务型应用和计算型应用无法提供满足的。此次演讲的议题便是用于构建分布式 AI Agent 应用的离在线一体化框架 Ragent。
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业