AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


杨芳贤|AI 2.0时代,如何拥抱与驾驭大模型?
发布日期:2025-01-09 08:17:54 浏览次数: 1583 来源:31会议




以“数字化赋能高质量发展”为主题的中国会展业数字化创新大会暨德清会展业发展大会(CEIDIC2024)在浙江省湖州市德清国际会议中心圆满闭幕了,组委会陆续推出部分嘉宾的精彩内容。


本期推送53AI创始人杨方贤的演讲,题为AI2.0时代,如何拥抱与驾驭大模型?》。






杨芳贤


53AI创始人




大家好,我是53AI的杨方贤。今天的话我跟大家简单的讲三个事儿,第一大家都知道大模型那么牛,他到底牛在哪,强在哪,他的能力边界在哪?坦率的说我们今天在座的每一位,如果说未来我们自己包括我们的企业要把大模型用好,其实我们一定要知道他的能力边界,就像我们今天企业雇一个人过来,一定要知道他的能力去到什么程度。


第二我想跟大家讲明白就是说大模型跟我们每一个人有什么关系,因为我们今天在座的可能有很多是企业的老板,但更多的我们也是一个职场人对吧?在做老板的同时肯定大家也还干着各种各样的工作。


第三就是我们既然大模型跟我们自己产生关联之后,跟我们的企业有什么关系?


大家可以看到从2022年的11月30号发布Chat GPT之后,其实全球不光是海外,国内的这些头部的厂商也开始在大模型这块有非常大的投入。


很多的大佬都说大模型出来之后可能是第四次的工业革命,我们作为普通的企业,这些大模型好像跟我们没有关系,但事实上是这样吗?这几张图这是我的一个客户,我们可以看到其实真真正正对于我们绝大多数企业来说,可能对于我们来说更多的是如何把AI用好,我们可以看到全员加AI包括all in AI的企业在做什么,我们可以看到它今天连它的厕所都已经贴上了,企业全员动员员工去把AI融入到工作,融入到业务当中去。


接下来的话我就开始今天我的第一部分,大模型那么牛,他的能力边界在哪?


1

大模型那么牛,能力边界在哪?



就我们可以看到大模型它的能力正如大家所常用的,如果我们今天不是开发人员,我们可能看到更多的是大模型有很强的能力,文字生成能力,有图片生成能力,包括现在我们看到它有视频的生成能力,如果是开发人员,你会发现其实大模型还能写代码写程序。包括它能够把所有万事万物都把它向量化,我这里简单的列了几个场景,比如它能够画画对吧?画画跟赛波特飞翔跟密度焦点有什么区别?我们可以看到Open AI它推出的模型,它是能够用自然语言,只要你能把这个场景描述清楚。这个是我自己在咖啡厅我给了他这样一段的提示词,把它生成了这样的一幅画。


第二,我们可以看它有什么能力,除了能够对话能够画画以外,它还有很好的基于大语言模型的对话能力。让客户能够和名片进行对话。这创意听起来很有趣。他的语音能力表达能力其实非常流畅,不光模拟真人的声音,而且还有该思考的地方,该停顿的地方它稍微会有一些停顿。


此外还有大模型的视觉能力,这是我办公室的照片,你会发现当我把我的办公室照片丢给他之后,他会告诉我,如果说你这是你的客户的话,你去拜访他,你可以跟他聊什么话题。所以未来其实我们戴眼镜的朋友们,如果你的眼镜升级到智能眼镜,你可能一眨眼就拍完照片之后,接下来你该做什么它会给到你提示。


最后我们来看看大模型它到底能力强是强在哪?第一是他有非常强的知识储备,就他把现在所有公开的信息都已经学完了。第二它有很强的逻辑推理能力,我们会发现他可能对一个事物的分析跟判断,包括他的推理,可能比很多985、211的大学生还更强。第三他能够触类旁通,什么叫触类旁通?如果用学术上的术语来说叫做泛化能力,就是说他可能过去没有见过这一类的事物,但是他见过类似的,他也能够去推理出来。


最后一个就是举一反三,这个能力非常棒,你会发现当我们让大模型来写个文案的时候,他有可能写的不是你想要的,就如我们在直播看到董永辉的小作文都很好,但如果我们让大模型写一段,可能写的不是不是那么像,这个时候你只需要拿一段董宇辉过去写过的小作文扔给他,跟他说参考写一个类似的,他会写得非常的棒。


好了,刚才我们看了大模型的基础能力,大模型的能力边界在哪?我们真实在使用的时候你会发现大模型实际上是没有办法猜测你的习惯,也不知道你的具体的场景,所以我们在用的时候你发现它不够好用,你跟你的助理交代一个事,他能够非常好的去配合你,是因为你的助理非常了解你,而这个时候我们用到大模型的时候,你就要把它当成外部的顾问,外部的咨询公司,他不了解你的背景,所以你要把你的背景交代清楚,所以这是大模型的创作的能力边界。


另外一个就是我们刚才说到的大模型虽然有海量的知识储备,但是他不了解你企业内部的知识,不了解你企业内部的流程,也不知道你的客户信息,所以这些都是大模型的能力边界好了,如果未来我们自己要能够很好的驾驭好大模型,我们的企业要能够把大模型用好,那就需要去弥补去突破它的边界。


好了,刚才我们看了大模型的能力边界,接下来我们来看大模型那么牛对吧?跟我有什么关系,我如何去驾驭它?


2

大模型那么牛,我如何驾驭大模型?



实际上如果我们把大模型比喻成一条巨龙的话,对吧?御龙之术就是提示式工程,学习提示词其实有很多的路径,对于绝大多数人来说,花个199买一周老师的课就可以了。但是对于专业的人士来说,对于未来要把大模型引入到自己的企业当中去做深度应用的,可能开源的免费的才是最好的。


这里有个开源社区是我跟几个小伙伴一块组建的,包括央视也报道了,这个平台上的关于结构化提示词的内容就是来自于我们开源社区的。大家可以百度搜一搜,这是一个飞书文档,如果说想下载这个文档的话,也可以扫一下这个二维码,这是对于专业级的人来说,比如说咱们31会议的朋友未来要把大模型融入到产品当中去,可能就需要去学习这样的结构化的提示词,但如果对于我们绝大多数的普通人来说,其实大家我也帮大家总结了一下18个字,只要掌握这18个字,我敢肯定你们能够把大模型用到80分,并且今天离开会场之后,你们也能够跟身边的朋友去告诉他们。


如何把大模型用好,第一就是提出精准需求,我们可以看到上面也列了个对比,如果说你要作为公司行政,你要做一个公司的团建活动,你简单让他出一个团建的方案,他写的会非常泛,但如果你能够把人设目标背景任务等等都交代清楚的话,他会给到你非常棒的输出,我这里也有个对比,这是第一。


第二是什么呢?不断的完善问题,大家想一想,你如果说不知道如何跟大模型相处的话,你只需要把他当成实习生,就今天你公司给你招了个助理,你在一个工作交代给到他的时候,你一定要把前因后果交代清楚,我刚才说的第一个一定要把事情说清楚。


第二如果说他给你的输出离你的预期有差距的话,这个时候你要不断的追问,也就是说当你的实习生区别在哪,你的实习生给你的交付你不满意的时候,你得连哄带骗的让他再来一稿,但是大模型的话,你可以放心的让他再来实稿,所以你可以不断的去追问,我这里也有个对比,前面他产出内容之后,我们让他继续再修正。


然后第三个就是善于拆解任务,这个时候你同样的可以把大模型理解成你的一个实习生,就是说当一个新人进来的时候,对于复杂的任务,因为他过去没有干过,所以他没有办法理解,你让他做一个复杂的事的时候,他没法处理。


但是如果说你帮他把拆好,告诉他这个复杂任务可能大概有5个步骤,你先做什么再做什么再做什么,把它拆成5个任务之后,实际上大模型在每1个细节上都会有很好的输出,因为时间关系我这里就不展开来讲,我们可以看到这样的一个场景,如果我们拆开来之后,每一个都拆开来之后,它的表现是非常不错的,最后你把它汇总成一个方案。


好了这是从我们个人的角度来说,其实核心就是刚才讲的掌握提示式工程,如果我们要成为专业的大模型的应用人员,那就要掌握结构化的提示词,如果我们作为普通的使用者,只要掌握我刚才介绍的18个字就可以了。


3

大模型那么牛,和企业有什么关系?



最后一个部分的话跟大家讲一讲,就是说大模型那么牛跟我的企业有什么关系?其实从去年我身边很多的朋友就开始在提到,包括也有很多上市公司老板说到说我们今天开始要用AI,整个公司战略要往AI倾斜,包括有很多互联网公司的创始人跟我讲,我们想利用AI但是找不到场景,不知道从哪里开始。


实际上我们给出了一个非常落地的方法论,我们叫做分三步走,首先是全员加AI也就是说当我们企业要全面拥抱AI的,其实先干一个事儿,就是让我们公司的每一个员工在工作当中,但凡你的工作场景当中能够通过AI来提效的,无论他哪个岗位行政、人事、销售、客服开发,其实每个岗位借助AI都会有不同程度的提效,只有你全员都把AI用起来了,那么场景就会涌现出来,内部到底哪些细节能够借助AI来提效,那么你的全员在用的过程当中,它的场景就会涌现出来。


那么当你做了全员加AI之后,这个时候你能做什么?能做业务加AI就是说让大模型我们刚才有说到,大模型的能力边界是他只有通识性的知识,他不知道你的企业是做什么的,不知道你的客户也不知道你的业务流程,这个时候我们就可以让大模型来掌握你企业的知识,来掌握你企业的业务流程,甚至知道你企业的客户的情况。


这种情况下,你当他掌握了你企业的知识之后,就像什么今天有个能力非常强的人,他一定要入职到公司接受了一个月的入职培训之后,你把它放在售前岗位,它就能帮你做售前,你把它放到售后岗位,它就能帮你做售后。


如果你把它放在企业内部的培训的岗位,他就能给你做员工的培训,大模型也是这样。今天我们要让大模型能够叠加业务,一定是先让大模型掌握了企业的知识,企业的业务流程之后,然后这个时候你把他放到哪个岗位,他就能够发挥对应的价值。


然后第三个阶段是什么?就是AI*业务,借助AI把AI融入到你的业务流程当中去。接下去的话我跟这一页是广告,前面的都是干货,这一页是广告,简单讲讲就是我们公司目前在去年一整年的时间,我们开发了一个AI的中间件,那么可以把市面上所有的大模型都统一接入进去,做一个统一的纳管。


然后其实31会议也是我们客户,那么比如说像31会议刚才的列的这些场景,都是可以基于我们 AI的中间层,如果说不采用我们这种中间层,可能咱们去构建一个AI的应用这样的一个场景,首先要投入大量的人力物力。

一个场景的改造可能要两三个月甚至更长的时间,但借助我们这个平台的话,只要把业务逻辑理清楚了,三天就能上线一个场景。


另外,我们还有一些应用层,就我们做了一些企业共性的应用,那么企业可以开箱即用。除此以外,我们还提供一些企业的AI的落地的陪跑服务,这是我们的产品。


4

场景实际应用


接下来我跟大家讲一讲这几个场景的实际的应用,包括一些落地的案例。首先第一个是私有模型,就是我刚才提到的如何让大模型掌握企业的知识跟业务流程,并且他要能够有是情绪识别跟意图识别的能力。


那么我们今天在讲到私有模型,可能大家第一反应就是IE知识库,但实际上私有模型在我们过去一整年落地了100多家客户,我们其实已经总结出了8个场景,然后使用模型大概会有三种类型,我简单讲讲第一种是什么?我们叫做知识型的模型,也就是说当我们向这种模型提问的时候,它是能够准确的回答你的问题,但是更多的是什么?是开放式的给到你更多的启发。


这个时候我们可能更多的除了你自己的企业知识以外,我们会用到大模型的这种创造力,包括它的所谓的这种幻觉的能力,所以大模型的幻觉能力不见得是坏事,它会给到你很多的创意,这是一种场景,比如说我后面会介绍到的,我们给夏凯老师训练数字,老夏把他那几本书以及他过去培训的所有的知识导入进去,然后他能够作为大客户销售的陪练,这种我们叫做知识性的模型。


第二种场景是什么?我们叫做问答型的模型,这种场景通常情况下用在售后场景,也就是说售后场景其实有几个指标,第一是什么?是一定要99.99%的正确率,也就这也是为什么今天大模型在很多企业落地场景,他不敢直接上线到生产环境给到用户使用,而是把它作为内部,但在特定场景某一个具体的场景,我们是能够把大模型做到99.99%的准确率,这是第一。第二是什么呢?


在售后场景我们今天我们用大模型都会发现我们文本问他问题,他文本回复,但是在售后场景的时候,光文本回复是解决不了问题的,很多时候是需要文本再加上一个短视频或者文本加上一个图文并茂的内容,尤其是软件领域或者说工程机械等等很多的场景,这个时候就要求大模型能具备多模态的输出能力,这两个也是我们过去做的。还有一个场景我们叫做任务型的模型,也就是说这个模型它是具有意识的,他的注意力聚焦在什么?聚焦在你安排给了他任务,你问他任何问题的时候都会很好的回答。


但是在回答的过程当中他会追问你一个问题,比如说如果你把它放在售前,我们售前的sdr团队一定是要知道来咨询的客户他叫什么名字,来自哪家企业,他的需求是什么?


而当他完成了这些任务之后,它就会变成一个普通的模型,所以这是讲到私有模型这块,现在整个市场上可能大家都会讲的比较泛,只是一个知识库,但其实真实在落地场景当中它会有非常大的差别,不同的模型它的调校跟方案也会不一样,这里列了一些例子,是可以在微信群跟在他的业务系统里面去作为销售大客户销售的陪练的,包括刚才31会议列举的场景,都基于我们的系统是可以快速的去搭建的,比如说像这里列到这个场景就是多模态输出,这是一个家居行业的,当我们问他一个问题的时候,他不光是文本回答,而且还能回答图片加文字,来去很好地引导客户解决对应的问题,比如说这是一个企业内部的员工服务的平台,那么这样的一家企业可能超过10万的员工,他的这种员工的绩效跟申诉整个的模型是学习了内部的管理制度的这样的一个模型。


第二个场景是什么?第二个场景我们叫自建应用。其实不仅仅我们的产品服务了一些上市公司,类似于31会议这样的上市公司其实不仅仅是上市公司,我们绝大多数的企业内部其实有很多的it系统,这些it系统可能是5年前10年前甚至15年前搭建的,而今天这些业务系统,如果我们要把它融入一些AI的能力,我们要把它推倒重新来架构,这个事是一个非常麻烦的事,并且投入非常大。


今天借助53AI的自建应用,我们可以把AI的能力都在53AI的平台上进行编排,然后通过一个快速接入或者通过一个API的接入方式,就能够两三天上线这个场景。


刚才周总演示的三一会议那几个场景,就是用的我们自建应用的场景去快速完成接入的。


这里我也列举了两个例子,比如说像有一个医疗的上市公司,他们做一个测试,他们的医疗检测单里面有大量的这种输入法的错误等等造成的,医疗检测单里面有大量错误的信息,这些信息过去是要人工来纠错的,而他的这套系统又已经部署在了几万家的医院里面。


而今天借助我们的系统能快速的把AI能力在我们平台上编排,然后通过一个API接入方式,一个月的时间就完成了系统改造,比如说在这样的一个消费金融领域,过去的这种催收,它是由人工去打标签,包括人工去写摘要,这里面qa只能去抽检,而现在基于这样的一个平台的话,是能够去把他的通话记录转成文本传到我们系统上,我们系统直接返回他一个结果,所以他所需要的AI的能力都在直接应用的平台上面去完成搭建。


对第三个场景就是我们刚才介绍到的全员加AI,如何让企业内部每一个人都能够去使用到,我知道今天在座的朋友们可能有很多用文心语言用豆包,但其实我们真的在企业场景当中,每个大模型能力是不一样的,有些场景用文心言会解决更好,有些场景可能用质谱会更好,有些场景可能一定要用opi才能解决。


今天我们的平台是把市面上所有的大模型都统一的纳管进来,然后我们在不同场景可以任意的去切换。


接下来我们可以看一个非常有意思的场景魔法菜单。每天写几篇知乎跟帖都要写吐血了,不仅要查资料想文案还要植入软推广,根本写不了几篇,知乎跟帖的确很讲究,需要丰富的专业知识,扎实的文案功底,也许他们并没有偷懒,只是不知道可以通过魔法菜单一键生成高质量的知乎跟帖,这是知乎上的问题,我们只需要选中这个问题,打开魔法菜单选择知乎大神,看到了吗?


不到一分钟系统就生成了一篇高质量的且植入了推广的知乎跟帖,如果你的知乎运营用上魔法菜单,是不是也能一键生成跟帖,这里是boss直聘,在boss直聘里选中简历,打开魔法菜单选择候选人打招呼,看到了吗?仅需几秒钟系统就生成了一条个性化的招呼语,根本不费精力,如果你的hr用上这个工具,是不是也能一键生成个性化的招呼语了,是不是就能快速吸引候选人注意力了?


这是一个淘宝店铺的商品评价页,几千个客户评价都没回复,我们选中一个客户评价后打开53a魔法菜单选择评论回复,看到了吗?系统几秒钟就生成了一条非常走心的互动内容,如果你的运营人员用上这个工具,是不是一个小时就可以回复上百条评价了?


好,刚才其实刚才其他的分享嘉宾其实都有介绍到他们的产品当中植入的一些场景,53AI跟他们最大区别在哪?就是我们里面的所有的魔法,所有的能力都是可以根据企业自己的业务来自定义的,完全根据自己企业的业务自定义,我们可以看到比如说我这里列举了几个场景,可能跟会展没有太大关系,但我相信每一个会展人背后其实都是一家企业,只要是企业你就会有招聘的场景,我可以看到过去我们在招聘过程当中,如果一个小公司可能如果邀约一个面试的话,可能就直接邀约了,也没有所谓的邀约面试函,但如果这家公司有个专业的一个hr的话,他可能就会一个邀请函的模板。


但实际上借助53a的魔法菜单的话,它生成的邀请函不仅仅是一个通用的模板,而是结合候选人的简历,他的工作背景在邮件当中会列出你的工作能力主要有哪些,跟我们公司岗位哪些地方匹配候选人,看到这样的一封邮件的时候,他一定会高看你公司一眼,这是其中一个场景,我想未来如果是咱们会议的邀请函,我想大概也是这个逻辑。


我们再看一个人力资源的场景,我们过去在面试的时候好的公司一定会有结构化的面试题,那么就是你能够结合这个岗位,那么去因为很多的岗位,如果你没有在这个岗位上实际工作过的话,你很难问出专业的问题,而今天结合魔法菜单生出来的结构化的面试题,不仅仅是结合这个岗位,而且结合了这个人的简历的工作的背景。


那么如果说您公司的从招聘专员到面试的主管,每一个面试的人都能够问出非常专业的问题,我想这个候选人他对您公司也会高看一眼,也会特别重视您的公司,这些都是我们借助AI来去提效的点点滴滴,其实在企业内部类似的场景有无数个,而借助美魔法菜单上的工具,每个岗位都可以去定义自己的需要使用到的这种工具的AI能力。


好了,这里是一个生成一个方案,我们知道用chat PPT用文心言能写方案能写文章,但通常只可能只是一篇几千字的方案,而借助我们的智能文档,可以一次性生成几万字的非常复杂的,甚至是一个项目的投标的方案。


最后,我认为其实 AI这一次给到我们企业最大的变革是什么?我觉得可能是我们在座的每一位的老板们要去思考的,就过去您的企业可能5000人,1万人,但可能几年之后,你一个5000人企业可能就变成2000人,而老板要做什么事?给每一个员工配备3~5个AI助手,所以过去我们人力资源去评估员工能不能胜任的时候,既评估他的技能,还评估他的领导力。


就是说如果你有领导力,你可能至少是一个优秀的员工,你能领导好自己,如果你的领导力再强一些,你可能是个组长,是个部门的经理,是个主管,而未来每一个员工他都要具备很好的AI领导力,他只有具备了很好的AI领导力,他才能够带领好几个AI的助手去产出一个人产出过去一个团队的这种价值,所以我想可能是未来每个行业每个企业的老板都要去思考的问题,我今天的分享就到这里,谢谢大家。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询