AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


独家!Kimi轻松打造微信AI客服,告别RAG,太省心啦~
发布日期:2024-05-22 20:58:30 浏览次数: 2772 来源:袋鼠帝AI客栈



大家好,我是袋鼠帝,之前老是听说Kimi的上下文长度超长,如何如何牛掰,大文件大海捞针能力超强!我并不以为然,认为就是噱头而已,并不放在心上,还是我行我素继续用我认为的宇宙最强GPT4o,but我最近通过实践,被Kimi狠狠地打两个嘴巴子,Kimi不愧是国产AI之光,它完全颠覆了我对国产AI的刻板印象


我的微信:ai-kangarooking


一、使用Kimi可在个人微信实现超大文件AI识别、总结

事情是这样的:前两天我在帮一位客户,基于chatgpt-on-wechat定制化开发个人微信号的AI文件识别、总结功能。当时GPT4o刚出不久,号称是目前最强大模型,我毫不犹豫就对接了GPT4o的api来实现这个文件识别、总结的功能,但是事与愿违

很多的pdf文件通过openai的文件上传接口,都无法正确的解析返回(直接返回乱码的内容)。并且即使GPT4o的上下文窗口已经达到128k,还是不够用。当文件内容稍微多一点,就会报如下的错误(超过了GPT4o的接口限制)。

我初步判断可能只是GPT4o的api接口问题,然后我到ChatGPT网页端上传该pdf,还是一样的效果,直接报错了(无法从此文件中提取任何文本)。我暗恨:

亏我每个月还给openai充20美刀,居然连个pdf都无法总结,真tm无语!

我偶然想到Kimi不是号称可以一口气读完20万字的小说吗,我抱着试一试的心态来到Kimi的官网。这个GPT4o都无法解析的pdf文件直接扔给了Kimi,当时我就震惊了!这个GPT4o都无法读取的12M的大文件, Kimi在30秒内就把它解析,并总结了出来,并且总结的内容完全没有偷懒!

关键Kimi还免费,你说气人不气人?

kimi地址:https://kimi.ai

Kimi大文件总结的效果真的令人惊艳,于是我立马把GPT4o的api换成了Kimi的api,终于在个人微信中接入了AI大文件识别、总结的功能

看下用GPT4o接口和用Kimi接口的对比

Kimi api去开放平台获取:https://platform.moonshot.cn/

用GPT4o

用Kimi


二、Kimi超长上下文理解能力,在个人微信轻松实现AI客服

最近做自媒体流量还行,每天都有好些朋友加微信过来资讯AI相关的问题。不管是私聊还是群里,每天都有"八百个问题",但是很多问题都可以在我的公众号文章里找到答案,我一个人能力也有限,时间有限,很多问题我无法一一回答,即使回答,也可能不够详尽,这点希望大家能够理解。
我可是要用AI成为超级个体的男人,我要让AI给我打工!

我第一时间想到的是传统的RAG(检索增强生成)方案,也就是通过将知识库文件转换为向量,存储到向量数据库,后续每次提问,先去向量库中对比召回与问题最相似的那批数据,在将这批数据连同问题一起丢给大模型。

但是这种方式需要不断的调整,优化知识库数据,以及调优相似度,每次的召回数据量等等各种参数来提高回答的质量,但是即便各种调优,效果可能还是不理想。

下面就是一个采用了RAG方案的知识库流程图,是不是比较复杂。


通过Kimi api接口的实践,让我想到做知识库的另一个方案,那就是利用Kimi的超长上下文理解,以及"大海捞针"能力来代替RAG方案。这样我可以非常省心,因为直接丢给Kimi就完事儿啦~

说干就干,我直接把袋鼠帝AI客栈近期的公众号文章导出到一个pdf文件里面,将这个文件命名为:袋鼠帝AI客栈合集。这个pdf有21.8M

袋鼠帝AI客栈合集文章的pdf文件上传给Kimi,并简单写了一个prompt,如下

接下来就是见证奇迹的时刻,我提问:

如何安装docker desktop,它确实回答的很不错,步骤都对,并且给出了原文标题和地址。完全满足要求!

我又问了一个更刁钻的问题:怎么把Kimi对接到微信个人号?

这个问题的答案横跨了三个文章(这个系列是分三次写的)但是它竟然能够将这三篇文章的精髓都提取出来,并且重新总结成了5点,言简意赅,重点突出!同样也给出了准确的标题和链接,这真是惊艳到我了,太强了

传统向量+知识检索几乎无法搞定的问题,Kimi轻轻松松的就能完成

而且,完成的非常好。

我用了这么多大模型,这真是独一份的能力!

反观势头正旺的GPT4o,这tm啥呀,还是不能上传。

Kimi还是免费的,又聪明,是目前体验下来超好用的中文AI。

越想越气,我决定下个月就跟ChatGPT Plus say good-bye!

经过Kimi网页版的测试,我立马Kimi的apichatgpt-on-wechat进行改造。轻轻松松就打造出了基于知识库的微信AI客服,效果如下:

PART ONE


PART ONE


对于在微信接入AI客服功能,我本来已经做好用RAG方案,并且长时间调优的准备了。没想到最后就只接入Kimi,这事就成了。并且效果跟Kimi网页端的对话几乎差不多。

我终于有了一个微信数字分身,可以自动帮我分忧啦!

后续我会将这项能力更新到我的微信小号:kg小助理

以后大家有什么AI相关的问题先找kg小助理哈~

Moonshot的Kimi Chat这次真的帮了我大忙我怎么吹都不为过。当然Kimi的火爆程度已经不需要我来吹了。

就连openai最新的GPT4o都无法做到的超大文件“捞针“能力,Kimi做到了!

盛名之下,无虚士,国产之光,无愧于此!

基于这次的实践,我又花了一些时间对Kimi做了更全面的了解Kimi是国内最早支持20万字无损上下文的AI助手并且目前已经启动200万字无损上下文的内所以它的大文件处理才会那么牛掰。

我已经在Kimi官网申请加入200万字上下文waiting list了,可惜还未通过。申请入口我也分享给大家:

Kimi+ 地址:https://kimi.moonshot.cn/kimiplus-square

然后Kimi最近还上新了Kimi+,也就是使用Kimi实现的各个专业领域的AI助手,这里竟然也有论文降低AI率的功能,毕业在即,写论文的小伙伴不妨试试。Kimi+ 地址:https://kimi.moonshot.cn/kimiplus-square

最后发现Kimi除了APP和网页端,竟然还有微信小程序(以后使用起来就更方便了!)


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询