AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


对话腾讯混元大模型负责人,深聊C端产品推出背后的思考
发布日期:2024-05-30 22:03:53 浏览次数: 1991 来源:腾讯科技



自从2022年11月ChatGPT上线以来,大模型已经火热了一年多。从模型到应用,业内的人,可能会感觉到这一年的AI行业“卷上天际”。但是,全球大模型公司都面临一个巨大的矛盾:模型能力的提升需要持续投入,而模型使用的刚性场景和商业化闭环迟迟没有探索清晰。

但是,所有人都笃定这将是一个胜负未决的巨大机遇,模型的版本日新月异、屡屡刷上大模型评测榜单的前列,而基于AI的新产品,也排队上线。热闹非凡的行业竞争中,呈现出两个无比清晰的主线,基础模型能力的角逐,以及聚焦于效率和娱乐两个场景的应用爆发。

在APP Store中以AI助手为关键词搜索,首屏就有10个产品出现。在这波大模型热潮中,行业有人讨论“腾讯是不是过于低调了”。在今天(5月30日),腾讯AI助手“腾讯元宝”上线的发布会现场,腾讯云副总裁、腾讯混元大模型负责人刘煜宏正面给出了回应。

他认为:“虽然行业内看起来火热,但是中国移动互联网用户规模12.32亿,国内AI头部产品日活跃用户规模仅数百万。这意味着AI产品的渗透率极低,不到1%。”



在成熟行业中,先发优势可能十分重要,卡位卡住等于占据了竞争优势。但是在渗透率不到1%的未成形市场中,所谓“先发”不如更准确的洞察更广阔的99%的用户需求


面向C端的基于腾讯混元大模型的AI助手APP腾讯元宝亮相,界面简单清晰,仅仅两个Tab,左边是“元宝”,点击可以开启AI搜索对话框,右边是“发现”,点击进去可以探索各类AI应用-智能体。右上角是“我的”,可以看到我的个人信息及自己的使用记录。 



在与腾讯科技的单独交流中,刘煜宏介绍:“出于对用户体验的考虑,我们希望把产品做得简单清晰,左边是目前最刚需的AI搜索。AI搜索的体验是大模型能力的直接体现,抛开复杂的技术细节不谈,最终呈现的界面也是各家产品能力差异化的体现。”


“腾讯元宝”的呈现界面有满满的“腾讯感”,在搜索结果的底部,用卡片的形式,呈现了微信公众号的文章内容,点击进去,可以看到相关的微信公众号文章。这种设计,展示了混元大模型对于腾讯整个内容生态的考虑。雏形已成,未来,可能通过元宝的搜索,腾讯内容生态的内容,将按照用户的需求,更闭环地呈现在用户面前。



如文章开头所说,“元宝”的使用场景也聚焦于效率和娱乐,除了AI搜索,还具备AI总结、AI写作等功能。而生活场景,更多集中在“发现”tab,更能展现看、听、说的多模态能力,可以生成百变AI头像、生成萌宠贴纸,也能在看外文电影的时候,让它边听边译。


腾讯科技问了刘煜宏一个行业中被讨论很多的问题:“你认为智能体是AI时代的APP吗?”刘煜宏很确定地说,“我认为是的”。PC时代是Web,移动互联网时代是APP,AI时代就是智能体。


“发现”Tab中集中了有各种特定能力的智能体,刘煜宏提到,“让企业和用户自己去构建智能体,腾讯不会自己去做很多智能体。”目前,腾讯的智能体开放平台“元器”也已经上线,开发者可以通过插件、知识库、工作流等方式快速、低门槛打造高质量的智能体,并可以一键分发至腾讯元宝、微信客服、QQ、腾讯云等腾讯生态渠道,预计到6 月,还可以支持分发到微信公众号和小程序,腾讯混元模型资源全部免费。


虽然C端产品上线“不早”,但是腾讯混元大模型的能力一直在内部打磨,腾讯内部的600多个业务及场景已经接入,用大模型的能力进行产品的升级重构。据刘煜宏介绍,目前内部日调用混元大模型的次数已经达到2亿次(一次调用为输入一次Prompt并返回一次结果)。


现场有记者提问:“我们测试了元宝和GPT-4o的响应速度,发现其实不相上下,当然可能有网络等因素。其它的还有什么技术优势吗?”响应速度其实并没有被腾讯官方“着重”提到过,刘煜宏解释,因为腾讯的大模型是全链路自研,针对大模型训练和推理场景,腾讯自研了Angel机器学习平台,主要包含负责训练的AngelPTM和负责推理的AngelHCF两大部分。其中,AngelPTM训练速度比主流开源框架提升 2.6倍,AngelHCF推理速度相比业界主流框架提升 1.3倍。


可以把机器学习平台比作一条多车道的高速公路,大模型的数据就像许许多多的重型卡车,可以在高速公路上高速行驶;相比之下,较落后的技术平台就像是乡间的泥泞小道,只通行一辆小车也颠簸、缓慢。两者能提供的服务以及最终带来的用户体验显然也不能同日而语,而具备领先性能的机器学习平台和AI基础设施,能够帮助提供更好的基建体系,助力大模型高速运行。


图:腾讯云副总裁、腾讯混元大模型负责人刘煜宏


腾讯拥有庞大的C端用户,如今正式推出面向C端的AI大模型产品,未来的产品战略如何、商业化目标是什么、怎么看待AI产品同质化等问题,也被外界所关注,刘煜宏也进行了一一解答,以下为问答内容精华实录:


Q1:目前市场上已经有很多同类产品,为什么现在才上线呢?腾讯内部对这个产品有什么样的期待和要求?


刘煜宏:我们确实看到现在市场上已经有很多同类产品,但是我认为目前AI产品的渗透率才不到1%,还是特别特别早期的一个阶段。所以当你把时间周期拉长来看,是晚了三个月还是半年,其实不是那么重要。


腾讯的业务形态非常丰富,我们是先从内部开始做,希望用大模型先满足内部需求。腾讯内部产品对混元的日调用量已经达到了2亿,有超过600个腾讯的业务和场景都在使用大模型去重构及升级自己的产品。从内部的使用中,我们慢慢也探索出来一些高频场景,然后再把产品能力和用户体验推到C端。


Q2:你们也在做智能体,这个智能体和别家有什么区别吗?


刘煜宏:其实腾讯自己不会主要做智能体,我们有一个元器平台,通过元器这个平台,把模型的原生能力开放给大家,我们希望大家来做智能体。用户通过元器创建的智能体,可以一键分发到腾讯元宝、微信客服、QQ、腾讯云等腾讯生态渠道,预计到6月,也会支持分发到微信公众号和小程序,这个过程中混元模型资源全部免费。


Q3:我们发现元宝搜索出来的内容,除了引用微信公众号等内部生态的内容,还有外部的,你们的数据选择范围是哪些?


刘煜宏:这里有点跟搜索类似,元宝接入了微信搜一搜、搜狗等搜索引擎,可以覆盖微信公众号等腾讯生态的资讯和内容。作为一个产品来讲,腾讯一直用开放的理念来打造这个产品,我们基于它的信息关联度来取决于哪些内容怎么选。没有说一定要特定选哪些,主要还是基于用户需要的关联度。


Q4:腾讯元宝会如何推广?


刘煜宏:对于整个腾讯来说,我们更关注整个产品生态上如何能形成更好的体验。比如我们在元宝的AI搜索中得到了一个结构化的输出,如果想进一步写作,可以直接打开腾讯文档,这样能够进一步串联起腾讯的核心产品的体验。


至于付费推广,我们会做一些有限的尝试,但这不是我们这个阶段的主要目标,我们也不会太在意竞品会怎样。


Q5:未来有哪些商业化的规划呢?


刘煜宏:在不到1%的用户渗透率阶段就谈商业化确实太早了,到目前为止还是个摸索的阶段,元宝APP到现在没想过收费。但是我们能赋能很多成熟的产品,这些产品有自己的商业化路径。


Q6:各家推出的AI助手产品功能都差不多,如何看待同质化问题,“元宝”有哪些核心竞争力?


刘煜宏:腾讯有自己的优势,首先就是产品能力和工程化能力。腾讯有服务海量用户的经验,产品能力一直是我们的优势。推出之前,元宝已经在内部打磨了很久,在应用领域的适配度是有把握的。很多产品可能遇不到的问题,我们都有过解决的经验了。


在工程方面我们是也有底气的,我们有能力以更低的成本做到最好的。我们的Angel平台,刚刚获得了含金量很高的电子学会科技进步一等奖。


此外是大模型本身的技术优势,虽然我们发布比较晚,但是技术演进一直保持在第一梯队,技术天花板也会比较高一些。


Q7:在微信公众号中开了付费功功能的内容会被引用吗?


刘煜宏:大模型的AI搜索来源,除了公众号,还整合了搜狗、腾讯新闻等来源的内容。这种整合并不会影响原创作者的付费内容,反而能够为创作者带来更多的曝光和流量,为他们开辟新的渠道。尽管目前用户可能无法直接在元宝中看到全部内容,但大模型的整合能够提高内容的可见度,为创作者带来潜在的收益。


此外,大模型在技术层面上也在不断进步。虽然目前它还无法准确识别谣言,但团队正在开发专门的智能体来解决这一问题。比如腾讯新闻有一个较真平台,专门甄别谣言类新闻内容,我们就可以联合起来做一个“谣言粉碎机”的智能体。智能体能够基于其知识库,对用户提出的疑问进行校正和回答,帮助用户辨别信息的真伪。


在视频识别方面,大模型已经能够准确识别视频中的场景和背景,但对视频中人物和品牌的识别还不够精确。这主要是因为目前还没有将这方面的训练加入到模型中。团队也在考虑将这一功能加入,以提高视频识别的准确性和实用性。不过,出于对版权和侵权等问题的考虑,团队在这方面的进展还比较谨慎。


总的来说,大模型在内容整合和智能识别方面有着巨大的潜力,团队也在不断努力,希望通过不断的技术创新,为用户提供更加丰富、准确和有价值的信息服务。


Q8:混元同时提供TOB和TOC的能力,TOC偏向通用能力而TOB偏向于行业能力,如何平衡呢?


刘煜宏:如果单独说腾讯元宝APP ,那就是聚焦TOC能力,主要关注用户需求。我们还有元器平台,主要面向智能体的创作者。TOB的需求我们有腾讯云,通过云上的混元PaaS来服务不同的行业,混元提供底层通用能力的支持。


Q9:元宝的重点是什么呢?


刘煜宏:我们第一重点还是先把用户体验做好,比如搜索增强,这确实是用户需求的一个典型代表。另外就还是基于我们的生态做好用户体验,比如和微信公众号生态的打通,这个肯定是我们的特色,也是我们的优势。




53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询