支持私有云部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


用大模型手搓一个微信元宝小程序

发布日期:2025-03-16 12:44:55 浏览次数: 1559 来源:木昆子记录
推荐语

探索微信小程序开发的新路径,用大模型打造智能化问答体验。

核心内容:
1. 腾讯元宝与豆包的比较和小程序优势
2. 利用腾讯元器开发智能体的步骤和方法
3. 知识库配置、智能体设置及预览功能介绍

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家


笔者之前用扣子+豆包大模型开发的智能体应用“杭州中考小助手”,虽然能对接微信公众号,但还是不方便分享,因为身边的同学家长们很少有豆包APP,直接告诉用户在公众号对话窗口里咨询,总感觉有点违和也不是长久之计,毕竟咱们还是个专业的技术公众号(纯自嗨),完全被豆包托管交互也不妥,所以最近看到腾讯元宝广告满天飞,就想看看有没有更好的方案:

研究一番后,发现腾讯元宝相比豆包来说,虽然看起来差不多,甚至还没有豆包功能丰富,毕竟起步晚很多,但它除了和豆包一样有APP端、WEB端之外,还有微信小程序端,这是它的一大优势,小程序在微信分发上天然具有优势。

有了这个基本认知后,就进一步研究腾讯元宝中的智能体是怎么开发出来的,不愧是宇宙最强“借鉴”工厂,它确实有对标“扣子”的智能体开发平台叫“腾讯元器”,这名字和“元宝”不能说一模一样,只能说体系化是很到位的。


先用腾讯元器开发智能体


我们总体思路,还是先把中考分数线相关数据作为知识库,然后对接大模型就能实现简单的智能化问答查询了,这个模式用专业话术就叫做RAG“检索增强生成”,也就是利用知识库中专项和行业的知识,对通用大模型的内容生成过程进行增强。

所以首先进行知识库准备,腾讯元器中知识库相比扣子来说,有两个特色功能,一是支持上传QA问答类知识,二是支持对接你自己的公众号文章作为知识,和文心一言的知识库支持对接百度云盘文档一样,都是一种生态模式的做法,大厂最不缺就是生态了。

当然笔者的场景目前还是基于普通“文本类型”就足够了,具体知识准备、上传和处理过程就不赘述了,可以看元器的官方文档。

然后就是配置智能体,说实话腾讯元器和扣子、Dify等基本也差不多(如对扣子配置+豆包APP的模式有兴趣,可以参考笔者之前的文章),有简单的基于“Prompt”提示词模式来配置(对应零代码模式),也有非常灵活的基于工作流模式进行配置(对应低代码模式)。我们以前者为例来简单说明:

如图Prompt的核心就是基本的角色定义、技能描述等信息,随着笔者认知的增加,就越来越理解prompt对大模型和AI应用的重要性,它其实就是用语言来描述你的程序逻辑和指令要求,就不用像以前一样写代码了,刚好大模型的长处就是能够理解你写的指令描述文字,所以就能按你的要求来响应和回复用户的问题,这个特性大幅拉低AI应用的门槛。

智能体基础设定配置好以后,就要把前面准备的知识库和这个智能体对接起来,在“高级设定”中选择知识库,同时在“模型设置”这里选择好大模型版本:

如图这里大模型选择DeepSeek-R1时要斟酌下哈,和扣子的提示一样,R1这种架构就没办法FunctionCall,所以不支持工作流和和插件等高级功能的调用,如果要用这些高级功能,则可以选择腾讯自己的“混元”大模型。

完成智能体基础设定、模型设置和知识库选择后,就可以在右边进行预览和调试了,调试通过就可以发布。

再发布元宝小程序


按以上步骤发布后,在元宝APP端以及WEB端都能搜到这个智能体并使用了,但这只是常规渠道,元宝的特色在于它是支持通过小程序方式访问的,在智能体卡片点击“使用方式”这个按钮,可以看到有三种渠道:

用微信扫一扫,就能直接打开元宝小程序,并定位到具体的智能体交互入口,同时也可以直接在微信聊天时分享给好友。


用公众号菜单对接元宝小程序


虽然咱们自我标榜是一个专业技术公众号,但还是再继续分享一个小技巧“把智能体小程序对接到你的公众号菜单上去”,方便有类似运营需求的同学参考哈。

首先要在公众号后端,找到“小程序管理”这个入口,添加前面做好的小程序:

点击这个“添加”按钮后,用公众号管理员的微信扫描,会出来一个输入界面:

在这个输入框中要输入小程序的ID,这个ID从哪里来?还是在前面腾讯元器的管理端,点击相应智能体卡片的“使用方式”链接,在小程序体验下面,选择下图第二个框去复制即可。

到了这一步就把小程序添加到你的公众号了,接下来就可以在你公众号的某个具体菜单中对接这个这个小程序了,在公众号后端找到“自定义菜单”这个入口,在具体菜单的消息类型中选择“跳转小程序”,然后选择前面加入公众号的小程序,然后在路径输入框中,把上图中第一个框的内容复制过来即可。

至此点击保存并发布,就能在你的公众号主页中,看到相应菜单,用户点击该菜单,就能打开相应的小程序,并定位到相应的智能体交互入口,对于一些公众号大V来说,这样推广智能体应该是最方便的途径了。

图片


其实笔者做这些探索,核心并不是想转型就去搞智能体开发了,而是为了搞清楚我们在支撑一些行业性的智能化业务场景时,为啥不能直接使用云端大模型,而是要私有化大模型(因为知识的安全因素),为啥不能基于AnythingLLM或Dify这类开源工具对接私有化大模型的模式,而是要进行工程化落地,所以才要针对基于云端和开源工具的RAG或智能体开发,进行深度了解和体验。

在这个了解体验过程中笔者还有两大收获,一方面是让笔者对知识库RAG、向量化嵌入Embedding、智能体Agent、思维链CoT、提示词指令Prompt、提示词工程PromptEngineering、智能体开发平台和LLMOps等概念有了体系化认知,下一步再往纵深底层技术了解,包括模型训练、微调、蒸馏Distill、量化版本等基本原理,以及底层cuda架构、vllm推理加速等基础逻辑的了解。

另一方面是触发笔者对软件研发过程和交互模式的思考,对于软件研发过程来说,未来也许真的不需要再写代码了,你把软件需要具备的能力,以prompt方式告诉大模型,大模型就能理解你的指令,按你要求产生相应界面、前后端代码、测试用例等,注意这种方式的产出还是传统软件范畴,只是把软件的研发过程智能化了而已。

更进一步的模式,则是大模型理解你的prompt后,直接生成相应的智能体,这个智能体能够根据你的要求直接响应用户的使用。

这也是软件交互模式的巨大改变,软件交互为啥一定要是GUI模式,从电脑软件到移动端APP,本质都是基于菜单点击和表单填写的GUI方式交互,无非是移动端APP交互模式从鼠标键盘变成触摸屏而已。

未来的软件交互模式,是不是可以只要一个问答框,用户的任何诉求,都通过问答框用语音或文字形式告诉智能体,智能体基于大模型理解意图后,根据对应知识库以及工作流等基础技能,就能完成相应处理操作。

现在还只是畅想一下,后续再继续深入学习继续分享,敬请期待。


—End—

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询