AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


钉钉请来一屋子大模型,要把开放的大旗扛到底
发布日期:2024-06-26 15:33:57 浏览次数: 1814 来源:钛媒体


当前,所有企业都想通过AI盈利,然而首先要解决的问题是让它成为一个高频反复使用的功能,构建AI生态是推动大模型产业发展的必然。


“没有复杂场景和数据的依托,单纯知识问答型的大模型,在行业侧没有应用前景。”钉钉总裁叶军在与钛媒体集团联合创始人、联席CEO刘湘明的对话中说。


AI大模型走进人们的视野才不到两年的时间,就已经在以前所未有的速度重塑各行各业。


不过当AI大模型从技术走向落地的过程中,仍然存在很多问题,面对这些问题,产业上下游如何合力解决,是确保大模型能在各领域发光发热的关键。


回看过去几年,SaaS企业遇见了一些前所未有的难题。“比如成本高、定制化难等。”叶军指出,“现在,为了满足市场的需求,很多SaaS软件都作出了改变,让成本更低;同时在AI大模型的影响下,高频交互界面也在变得更好用。”


今年以来,钉钉不断加码返佣政策,通过持续让利生态伙伴,和行业一起面对AI时代中国SaaS转型挑战和降本增效压力。


SaaS厂商的“新生”也得益于生态的构建。与SaaS行业的发展类似,当下的AI大模型仍处于一个使用成本较高、定制化程度较低的阶段,与此同时,AI大模型还面临着商业化的难题。一方面,国内大模型厂商价格战已经开打;另一方面,在应用层,大模型产品“大同小异”,在场景创新层面显然“后劲不足”,产品过于同质化。


如何解决这些问题,让AI大模型像SaaS一样,逐步走向便宜、好用,已成为当下的焦点。


生态一直是钉钉的优势,而在这个过程中,一个开放的平台、开放的生态就显得尤为重要——在这个平台之上,各家大模型都可以通过平台安全合规地接触到客户的场景和数据,各展所长;而对用户而言,模型的调用既可以在平台的加持下无感安全地进行,又可以混合使用多家模型进行高定制化的开发。


当AI大模型已经不仅停留在技术竞赛层面,走向应用落地的AI大模型需要的不是“闭门造车”,而是联合产业上下游,共建一个繁荣的生态。


为了让更多企业更好地、更便捷地拥抱AI带来的红利,6月26日,钉钉在北京召开了第三次生态大会。


此前,2022年首届大会上,钉钉首次厘清生态的边界,将开放作为核心战略,并明确只做PaaS这一件事;2023年,第二届生态大会上,钉钉打碎了原来固有的应用生态形式,将AI PaaS开放给生态伙伴和客户,力求借由大模型之力,帮助生态伙伴重塑产品。



今年,第三届生态大会上,钉钉宣布了对所有大模型厂商开放,希望构建一个国内最开放的AI生态。首批已有包括MiniMax、月之暗面、猎户星空、百川、智谱和零一万物等在内的6家大模型厂商接入了钉钉平台。


在叶军看来,现在很多通用大模型都没有很好的应用场景,“很多时候,好的场景比客户重要,因为场景激发创新。但对于大模型厂商而言,他们既缺好的场景,也缺客户。而通过钉钉平台,既可以帮助这些大模型厂商寻找客户、寻找场景,又可以让企业用户降低使用大模型的成本。”


Minimax创始人闫俊杰表示,和钉钉合作,看重的是钉钉上海量高活的广阔市场,和各行各业的企业,而模型能力是跟实践了多少场景相关的。


今年4月,钉钉正式上线了AI助力市场(AI Agent Store),首批推出超过200个AI助理,覆盖企业服务、行业应用、效率工具、财税法务、教育学习、生活娱乐等类目。


据统计,截至5月底,AI助理总数50万个,上架的AI助理数量已超700个。叶军告诉钛媒体APP,从目前应用来看,已经上架的700个助理中,以创作类的和RPA类的比较有代表性。


“AI能力的加持解决了传统RPA需要人工操作流程的痛点,实现了自动化流程,让RPA更智能。”叶军强调,“智能化让数字化的每个环节变得更智能。”


更进一步,以用友薪酬、墨见MoLook、售后宝等为代表的钉钉上原有的SaaS产品也正在基于钉钉的AI基座能力,积极拥抱AI,推出AI化产品,实现产品的重塑。


据悉,钉钉此次构建的开放AI生态主要有三种形式:


其一,钉钉平台结合了各个大模型的特点,与大模型厂商共同探索响应能力在钉钉一方产品中的应用场景;


其二,开发者在钉钉上创建AI助理(AI Agent)时,可以依据自身需求,调用相应的大模型产品;


其三,钉钉还联合了大模型厂商,针对不同需求,为用户提供相应的定制化解决方案,并实现私有化部署。


智谱AI COO张帆表示,大模型的应用这件事不难,但是它就是坑多,你无论是谁你都要走一遍这些事儿,踩一遍这些坑,但这个时间就大部分最大的就是机会成本。跟钉钉的合作主要是三个层面:


第一个是模型的能力的接入;第二个是共同探讨工具链的构建;第三个把一个agent平台转化为真正的应用,不只是说在钉钉场景内的应用,而是能够延展到更多的财税法、CRM、ERP等无数的企业应用场景,能够从一个一个细微的场景让客户带来生产力的提升。



当前,所有企业都想通过AI盈利,然而首先要解决的问题是让它成为一个高频反复使用的功能,构建AI生态是推动大模型产业发展的必然。


叶军从钉钉1月份上线的AI助理的使用量来推算,中国目前用过AI的人数不会超过1000万人,“中国每年坐飞机还有1亿人呢,所以钉钉AI生态努力的第一个目标是一天要达到5000万次调用。”


以下为叶军和刘湘明对话实录,经钛媒体编辑整理。


钛媒体:你现在怎么看Agent Store的发展情况?


叶军:我认为做通用的Agent Store没有意义,如果没有场景和数据的依托,没有复杂的流程,做一个类似于纯知识问答的Agent,并没有意义。GPT上线第一天出现了300万个机器人,我一看说别玩了,这没有意义,所以钉钉非常克制,要做就做有价值的,现在我们只有700多个Agent上架。


钛媒体:你觉得什么是有意义的Agent?


叶军:有很多,一类是创作类,因为公司里面的人大部分时间都在做创作,无论是员工还是设计部门还是营销部门,做文案,做规划,做营销的海报都是做创作,这是AI时代新的创作模式。以往的创作要切换各种应用,系统之间协同也挺麻烦,在使用多个独立的AI平台时,创作产品协同起来很烦,钉钉上可以协同,不仅自己可以协同,还可以跟别人协同。


另外一类是RPA类,RPA其实在没有AI的时候已经有点起色,传统RPA是手工点来点去,批处理变成自动化流程,有了AI加持以后,RPA变得更智能。举个例子,从HR系统到订单系统再到财务系统,订单相关的状态变化,金额变化,再到后面财务人员相关的处理,和财务到银行之间的资金流走动,以前都是割裂的。RPA可以实现从销售人员到财务人员的数据状态更新。


但传统RPA有个问题,如果系统变了,按钮又有点变动,RPA无法理解和执行。但是智能化以后,AI能识别下一步的意图,它的流程会变得更智能,该不该做点击动作,或者做另外一个动作,RPA就有了判断能力,智能化让数字化的每个环节变得更智能。 


这是多系统之间的协同,我们做AI跟其他厂商比最大的差异,是我们有数据和系统,这样的复杂系统反而带来了场景,成为AI发挥作用的最佳舞台。


钛媒体:现在RPA类是哪些场景用得比较好?


叶军:商店排名前几都还可以,但其实绝大部分的AI助理并没有放出来,因为是企业内部自己用,因为他的AI助理绑定他自己的数据,他不可能把他自己的AI助理给你用,当大模型出现以后,私有化的一些场景机会变得更多。


钛媒体:现在企业开发RPA类是什么流程,钉钉在里面起什么作用?


叶军:概括说,就是记忆-思维链-大模型的对接-本地数据的集成。


我们把框架搭好了,做了几部分工作。第一,对接不同的模型,我们对接了猎户星空,对接了mini max等,允许企业、开发者、超级个体开发AI助理,用户可以选择你认为最适用的大模型,或者已经在企业内部署的模型。


第二,AI助理把基本的思维链到记忆能力的工作预设好,AI的记忆能力比以前的搜索引擎所谓的个性化设置更加智能,思维可以把任务分解了,先把任务用语言模型去理解,再把它分成几个步骤,虽然还没这么先进,但我认为已经是一个巨大的进步。


第三,通过钉钉平台,可以将原本已经存在的日历、日程、文档、知识库等离散的数据集成,不再需要API调用,通过AI助理就可以实现集成。


钛媒体:你对AI助理的评价如何?用量最多的是什么?


叶军:从用户使用量来讲,现在每天大概有100多万使用量,人均使用7次,调用量大概在1000万次每天。用量最多的是钉钉自己集成的AI助理。


钛媒体:Agent Store应用“浅”的现状,是否也代表了现在整个AI的应用现状?


叶军:我认为AI还处于早期阶段。现在的应用还局限在聊天的场景中。但AI大模型真正的价值在于集成独特数据后的私有化场景,只有当大模型进入项目中、进入企业中,才是它真正落地的开始。


基于此,钉钉非常坚定地走企业路线,对接企业数据,让AI可以直接对接企业内部数据库,并通过模型管理直接产生报表。


并且,以后业务部门的人员也可以通过简单地配置数据库,构建赋能各自业务的大模型。


钛媒体:未来,Agent与酷应用的关系如何?


叶军:酷应用是一个交互界面,最大价值是各个功能推送给用户。有了大模型以后,企业可以通过调用小组件的方式,自愿地与交互界面交互。而酷应用与大模型的结合,也能通过酷应用结构化的本质,解决大模型“幻觉”的问题。


要想解决大模型“幻觉”的问题,就一定要考虑用结构化的数据表单辅助Agent。酷应用与低代码很大程度上,解决了结构化数据的问题。


钛媒体:你觉得钉钉团队在AI时代,产品和团队最大的变化是什么?


叶军:AI给钉钉整体带来了很大的变化,大到所有模块都可以让AI重塑。


以前的钉钉更多的属性是聊天工具。现在,钉钉融合了大量应用场景,并通过RPA串联到一起,带来了与原先截然不同的交互体验。我们取消了原先很多臃肿的功能,采用了另一种方式。以钉钉团队审批为例,钉钉审批现在不超过三级,将决策责任还给申请发起人的一线员工,实现自驱,这样才能让公司更灵活,速度更快。


钛媒体:还有哪些其他的变化?


叶军:第一,现在可以借助AI的能力进行记忆跟处理文档。企业可以将文档内容“喂”给AI,从而通过AI整理出要点,并帮助人“记忆”。


第二,对于没有特别强技术能力的企业,也可以用类似无代码的AI助理,构建企业内部客服、外部客服,内部员工知识库,外部产品手册等相对标准化的场景。


第三,在需要创作的场景,企业可以将工作系统和生产系统、营销系统深度集成,通过AI大模型的能力,帮助企业进行智能决策,以及生产计划的排期。当然,这一步需要进行一定程度的定制化开发,让大模型懂你的业务系统。


钛媒体:企业走到第三步,让大模型与业务系统深度融合的主要障碍是什么?


叶军:最大的阻碍还是工程的成本,因为这并不是一个可以通过产品化的手段,快速推进的过程。


但这个阻碍也给很多公司带来了机会。很多公司以前做项目,现在做AI集成,有了AI以后,很多企业的产品体验发生了变化。


如果这个变化不够大,对他们来说动力就不够。以钉钉为例,现在钉钉的产品中到处都是AI,相较于其他技术,带来的改变是颠覆性的。但因为钉钉用户群体多样性的原因,钉钉还是需要一步一步去改变,不能为了一类人,把另一类人的习惯改掉。


这点对于任何新鲜事物而言,都是一样的,需要一定的周期性。


钛媒体:AI生态怎么做?钉钉在其中扮演什么角色?


叶军:钉钉起到了一个推动的作用。像这次已经有接近100家SaaS企业进行了AI改造,与钉钉进行了集成。但我觉得还不够,因为很多公司还是舍不得投入AI产业,因为产出不够明显。


钛媒体:对这些进行了AI改造的SaaS公司,你看到最大的变化是什么?


叶军:通过AI改造,SaaS企业把自己软件交互方式改了,让SaaS软件的高频界面交互更好用了。再积累一段时间,SaaS市场也将通过AI有一些改观,这些SaaS公司的成本会通过大模型技术而降低。


钛媒体:你觉得无论是SaaS,还是Agent,通过AI改造,未来会在哪几个应用场景里取得突破?


叶军:首先,最明显的就是客服的场景。尤其是30秒以内的客服电话,完全可以全面AI化,从而省下很多人力成本。


其次,RPA联动多个系统,也是突破比较明显的场景。以前的RPA过于死板,有个大模型与AI助理后,可以进行批量处理,这就特别适合财务、电商等场景的批量处理使用。


钛媒体:未来Agent付费的模式可能会有很大变化,首先它不像软件那么难收费、怎么卖都觉得贵,而且未来的软件可能就是买Agent。 


叶军:Agent的价格其实对标的是某项任务的成本。比如某项任务本来要花多少时间或者人力成本,用Agent之后是怎么样,这很好衡量。包括RPA也一样,原本要花两个小时的事情,现在十分钟干完,这就是节省下来时间的成本。


钛媒体:你觉得未来对一个生态来说,扶持一个SaaS应用和扶持一个未来AI的应用,或者AI Agent,不同的地方是什么? 


叶军:现在做AI原生的企业还比较少,有一些SaaS企业在做,但因为生存挑战的压力,这些只是作为差异化竞争力,并没有成为核心产品。但未来一定会诞生出AI原生的创业企业。


SaaS的服务端肯定是不变的,但前端的交互侧应该全部是以助理形态简单处理的,我觉得这种形态的SaaS,就有点像新型公众号、新型小程序,以前从没想过小程序也可以玩游戏,以后AI应该也会变得这么复杂。 


钛媒体:在你看来,AI原生应用和AI改进应用,有多大区别?


叶军:现在大部分还是加AI助手的插件型应用,只是取代了一个任务,并没有取代一个产业、一个产品,只是改变了单一任务的子任务的效率。


而AI原生应用研发的流程、包括公司大小都会发生变化。比如,一个人创办自己的小公司,创业的第一天开发的就是原生应用,就不会再做原来的界面交互、工程师的流程体系,只需要串联核心逻辑,调用数据,把主要精力投入到AI训练上,只需要做AI的调优、知识库、记忆管理,思维链优化……从公司的人员结构、工作量分配、项目管理都会发生很大变化。


钛媒体:要真正做一个AI的生态,会赋予合作伙伴什么样不同的能力? 


叶军:会提供两种能力。在模型生态中,我们把场景给到伙伴。因为现在通用大模型都缺场景,当然也缺客户,我们也可以给他客户。但是我觉得场景比客户重要,因为场景激发创新。 


钉钉会结合各大模型的特点,与大模型厂商共同探索相应能力在钉钉一方产品中的场景应用,发挥不同大模型的特长。也会开放AI助理(AI Agent)创建,开发者可以依据自身需求,选择相应的大模型。


对SaaS产品,我们把它的主界面注入钉钉聊天的高频页面,也把酷应用区块开放出来。对于应用创作生态来讲,合作伙伴最终要拿到的是用户。 


钛媒体:你怎么评价这次合作的这些不同的大模型,他们擅长的能力是什么? 怎么谈条款、价格、合作方式?


叶军:我们会跟厂商聊,他们倾向做哪类场景。大模型有不同的参数,价格、推理速度、能力都不同,我们会把特点写清楚,用户按需自由选择。 


目前是官方限时免费,但后面会按照功能的复杂度来决定收费。目前和厂商聊的商业模式基本上是按功能订阅付费,我们一个重要判断是认为次数不会成为瓶颈,因为大模型调用降价的现状,次数只是写在那里,但估计永远达不到。 


钛媒体:AI的生态跟原来SaaS的生态完全不一样。 


叶军:因为AI生态加工的是数据,而原来SaaS生态加工的是流程,流程相对比较通用,是一个抽象的结果,每个环节做什么由系统自己决定,但是AI直接进到“怎么做”里面去了,是由数据决定的。 


钛媒体:当初用通义大模型把钉钉的场景整个跑了一遍,现在用一大堆的模型再去探索一遍,目前你发现有什么不同? 


叶军:第一,可以迸发更多的客户的需求。第二,这几个大模型性能和成本还是不一样,他们存在必然是因为差异化,确实存在一些专长。第三,客户的差异化。整体来说是市场更加生态化,对业态发展一定是有益的。 


钛媒体:钉钉现在也在做自己的一方产品,包括自己的AI助手。未来AI生态里的边界在哪儿? 


叶军:今天,我们把这个边界限制在Agent入口和定义创造,Agent本身的能力技能、背后的推理能力以及结果都交给生态。AI Agent背后要做很多交互,我们把响应能力都交给生态,相当于是把CPU交给了生态,我们做总线、做串联,保证所有核心部件流通,并且有一个统一的界面。 


钛媒体:在生态中,数据如何有效隔离,保证安全,同时还能融通起来、发挥更大的效应?这个尺度怎么把握?钉钉算是一个看门人的角色。


叶军:我们一开始就在做租户隔离,现在隔离得越来越干净了。现在也做了很多关键数据的本地化存储,比如文件、文档、邮箱、低代码的流程、IM聊天消息都可以本地化。一些小企业还不太在意这个事情,因为他觉得不值得投入这个成本,但企业规模做大以后就很在意,那么可以拿走,进行本地训练,在本地使用模型。我认为很多大企业都会走到这一步。 


钛媒体:现在接入大模型的企业,一部分是通过钉钉这类平台去用大模型,但也有一些企业,尤其是大企业,会选一个大模型直接自己开发,你怎么看待这两种模式的利弊? 


叶军:选哪个大模型很大程度上是个商业行为、市场行为。大企业有很多定制化、客制化的需求,是深度应用,要做大量的针对性调整,特别是行业化的大模型,需要自己去找模型开发。但小企业没有这么深入的需求就不用这么做,投入成本太高。 


刘湘明:所以钉钉这一轮其实主要服务于中小企业。 


叶军:我觉得大部分是中小企业,如果是大企业在平台上直接调整模型,只有一个可能性——那个场景并不是一个客制化很严重的场景,而是通用场景,实现的最低成本就是在平台上挑。如果是客制化的,就要IT部门做深度化定制,要进行业感知。


钛媒体:最后,你觉得在这一轮AI生态的建设中,钉钉的机会,包括未来的盈利模式会不会有些变化? 


叶军:不光是钉钉,所有的企业都想在AI上盈利。而盈利之前,首先要解决的问题是让它成为一个高频反复使用的功能,所以我给自己定了一个目标:一天要有5000万次调用。


达到这个目标,我就可以讲这个故事了,可以从成本推导出盈利空间有多大,这是个基数。而且达到这个调用次数以后,我就不太关心调用具体几次了,因为调用次数到达一定程度,边际成本变得很低,就不会按几次来收费了,而是直接给个固定金额。但问题是,你有没有这样一个让用户高频使用的功能?但现在我们和很多SaaS的模型伙伴交流发现,他们也没有找到特别好的盈利之路,如果最后都变成做项目的模式,最后就会“死”掉。



53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询