AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


用Dify+大模型打造你的第二大脑
发布日期:2024-08-19 17:11:37 浏览次数: 1914 来源:东波哥说


目前,随着人工智能技术的不断进步,越来越多的人开始利用大模型结合个人知识库来构建智能应用。其中,将个人公众号与知识库和大模型相结合的RAG(Retrieval-Augmented Generation)应用尤为流行。尽管这一概念在一年前就引起了广泛关注,但市场上真正实用且高效的产品却寥寥无几。

我曾接触过一些致力于开发此类产品的公司,并亲自试用过他们的产品,但总体体验并不尽如人意。然而,最近我发现了一个性价比极高的解决方案:Dify+大模型

dify作为一个高效的知识管理工具,与大模型的强大计算能力相结合,能够为用户提供一个既强大又灵活的智能应用平台。通过这种组合,用户不仅能够轻松管理自己的知识库,还能利用大模型进行智能分析和内容生成,极大地提升了应用的实用性和用户体验。

dify这个项目是在去年gpt火了之后不久就横空出现的,在chatgpt的assistant模式出来之前dify的交互方式就已经是很超前的了,dify自从开源出来之后就一直很火爆,可以说后面出来的各大厂的开放平台都在借鉴它的交互方式,包括很火的扣子的交互我感觉一开始也是抄dify然后自己迭代的。

前两个月,我花了很多时间去深度使用dify之后越发的觉得dify是在智能时代必须要掌握的一个工具。

特别是在它推出了工作流这一功能之后让我觉得它是离AGI最近的一种实现模式,它的功能实在是太强大了。

不过让我最动心的是它的知识库功能,它可以让我很方便地实现RAG知识库系统,我可以在一台云服务器上架构好之后把我整理的课程内容或是私人知识上传到平台之后把它作为一个聊天机器人的一部分,就实现了一个智能客服。

现在要实现一个可以接入微信公众号平台的知识库机器人只需要两千多元就能实现。同样的系统在市面上的报价一年都要好几千块上万块,它比较适合小公司或是个人使用,如果你不想把自己辛苦积累下来的知识系统上传到第三方平台,像扣子这类的,害怕自己的智力成果被别人盗用来炼丹的话,最好的选择就是自己搭建一套私有化部署的RAG系统。

虽然市面上有很多的开源的接入微信公众号的代码,我都下载过来试用过了,大部分都是需要花很大的学习成本才能成功对接到微信公众号的,于是我干脆自己写一套代码来配合dify做成了一个微信公众号的智能客服,这个客服专业知识过硬,24小时不知疲倦,没有情绪地为客户服务。

RAG系统最起码的功能就是可以自己上传文件给大模型学习之后提供服务,还能随时动态调整知识库的内容让机器人能提供最实时的回答。

dify很大的一个好处是可以自定义使用哪一家的大模型API,你可以使用大部分国内外的大模型。你还可以很直观地看到大模型有没有根据知识库的内容去回答了,它有一个召回测试的功能,可以看到问题精准调用了哪一个知识点还是自己编造了答案,让你对自己的服务可控性有进一步的掌控。


之所以选择用dify,除了因为它可以自由选择使用哪一个大模型之外,还因为它的可扩展性更强,你可以用它来做聊天机器人直接作为网页版使用,也可以使用它所提供的API,把API服务嵌入到网页或是APP中去,给你的应用加上大模型的智能和知识库的专业能力。它会记录系统的所有进出数据,让你对自己的服务情况了如指掌。而同时dify也可以私有化部署,这解决了自己的数据被大平台盗用的情况,在智能时代,数据才是业务的核心竞争力,这是命脉所在。

基于以上的原因,我帮两个朋友实现了RAG系统私有化部署,同时帮其中一个朋友把他的私有知识库作为智能聊天助手接入了微信公众号。

案例分享一:

朋友于总是做视频号服务的,他积累了很多视频号相关的知识经验,同时他有一个线上服务平台,他的想法是把自己公司积累的这些文档做成一个知识库,给平台的用户提供服务。

他问我有没有什么好的实现方案,我听完他的需求之后就建议使用dify来搭建。

我之前折腾过搭建,花了我两天时间才能搭好跑起来,中间有踩过一些坑,花了不少时间,我跟他分享了这个经历之后他就决定委托我帮他搭建这个服务;于总想快速把服务搭建起来验证这个需求是否可行,我便接下了这个需求。

前后总共花了两三个小时就已经把dify服务搭好,建立好知识库和chatflow,把提示词调试好之后发布。

再根据API的说明,他们团队的技术小伙伴把这个聊天机器人集成到了自有的网站平台上,前后只花了一下午就完成了这个需求。在完成功能上线之后他惊叹这简直就是神速!

案例分享二:

有个做路由器的朋友H,他坚持输出视频号的内容,已经成为行业的头部KOL,他想把他们行业的知识库做成一个智能客服,集成到他的公众号上提供服务。

但是不知道这个智能客服的水平如何,想要快速验证一下。

于是跟他说明了流程之后开始搭建dify服务,很快就搭好环境并开始确认各种大模型的api key,都填好之后开始建立知识库。

由于该朋友不是技术开发人员,中间做了很多的知识培训,教会他怎么使用,各个功能是什么作用,然后就开始上传各种资料,包括文本、word、excel、pdf文件等等。

中间进行了很多次的prompt调整,然后再加上了多路召回可用的模型;慢慢地从人工智障上升到还可以用的程度。他把服务发布到他的朋友圈进行了测试,在确认基本达到要求之后开始接入微信公众号。

由于没有找到比较好用的开源代码,于是我手搓了一个把dify接入微信公众号的代码,接入之后给微信公众号稳定地提供服务。


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询