微信扫码
与创始人交个朋友
我要投稿
大家好,我是袋鼠帝,之前老是听说Kimi的上下文长度超长,如何如何牛掰,大文件大海捞针能力超强!我并不以为然,认为就是噱头而已,并不放在心上,还是我行我素继续用我认为的宇宙最强GPT4o,but我最近通过实践,被Kimi狠狠地打两个嘴巴子,Kimi不愧是国产AI之光,它完全颠覆了我对国产AI的刻板印象。
我的微信:ai-kangarooking
事情是这样的:前两天我在帮一位客户,基于chatgpt-on-wechat定制化开发个人微信号的AI文件识别、总结功能。当时GPT4o刚出不久,号称是目前最强大模型,我毫不犹豫就对接了GPT4o的api来实现这个文件识别、总结的功能,但是事与愿违。
很多的pdf文件通过openai的文件上传接口,都无法正确的解析返回(直接返回乱码的内容)。并且即使GPT4o的上下文窗口已经达到128k,还是不够用。当文件内容稍微多一点,就会报如下的错误(超过了GPT4o的接口限制)。
我初步判断可能只是GPT4o的api接口问题,然后我到ChatGPT网页端上传该pdf,还是一样的效果,直接报错了(无法从此文件中提取任何文本)。我暗恨:
亏我每个月还给openai充20美刀,居然连个pdf都无法总结,真tm无语!
我偶然想到Kimi不是号称可以一口气读完20万字的小说吗,我抱着试一试的心态来到Kimi的官网。把这个GPT4o都无法解析的pdf文件直接扔给了Kimi,当时我就震惊了!这个GPT4o都无法读取的12M的大文件, Kimi在30秒内就把它解析,并总结了出来,并且总结的内容完全没有偷懒!
关键Kimi还免费,你说气人不气人?
kimi地址:https://kimi.ai
Kimi大文件总结的效果真的令人惊艳,于是我立马把GPT4o的api换成了Kimi的api,终于在个人微信中接入了AI大文件识别、总结的功能。
看下用GPT4o接口和用Kimi接口的对比。
Kimi api去开放平台获取:https://platform.moonshot.cn/
用GPT4o
用Kimi
我第一时间想到的是传统的RAG(检索增强生成)方案,也就是通过将知识库文件转换为向量,存储到向量数据库,后续每次提问,先去向量库中对比召回与问题最相似的那批数据,在将这批数据连同问题一起丢给大模型。
但是这种方式需要不断的调整,优化知识库数据,以及调优相似度,每次的召回数据量等等各种参数来提高回答的质量,但是即便各种调优,效果可能还是不理想。
下面就是一个采用了RAG方案的知识库流程图,是不是比较复杂。
说干就干,我直接把袋鼠帝AI客栈近期的公众号文章导出到一个pdf文件里面,将这个文件命名为:袋鼠帝AI客栈合集。这个pdf有21.8M
我将袋鼠帝AI客栈合集文章的pdf文件上传给Kimi,并简单写了一个prompt,如下
接下来就是见证奇迹的时刻,我提问:
如何安装docker desktop,它确实回答的很不错,步骤都对,并且给出了原文标题和地址。完全满足要求!
我又问了一个更刁钻的问题:怎么把Kimi对接到微信个人号?
这个问题的答案横跨了三个文章(这个系列是分三次写的)但是它竟然能够将这三篇文章的精髓都提取出来,并且重新总结成了5点,言简意赅,重点突出!同样也给出了准确的标题和链接,这真是惊艳到我了,太强了!
而且,完成的非常好。
我用了这么多大模型,这真是独一份的能力!
反观势头正旺的GPT4o,这tm啥呀,还是不能上传。
Kimi还是免费的,又聪明,是目前体验下来超好用的中文AI。
越想越气,我决定下个月就跟ChatGPT Plus say good-bye!
经过Kimi网页版的测试,我立马就用Kimi的api在chatgpt-on-wechat上进行改造。轻轻松松就打造出了基于知识库的微信AI客服,效果如下:
PART ONE
PART ONE
对于在微信接入AI客服功能,我本来已经做好用RAG方案,并且长时间调优的准备了。没想到最后就只接入Kimi,这事就成了。并且效果跟Kimi网页端的对话几乎差不多。
我终于有了一个微信数字分身,可以自动帮我分忧啦!
后续我会将这项能力更新到我的微信小号:kg小助理
以后大家有什么AI相关的问题就先找kg小助理哈~
Moonshot的Kimi Chat这次真的帮了我大忙,我怎么吹都不为过。当然Kimi的火爆程度已经不需要我来吹了。
就连openai最新的GPT4o都无法做到的超大文件“捞针“能力,Kimi做到了!
盛名之下,无虚士,国产之光,无愧于此!
基于这次的实践,我又花了一些时间对Kimi做了更全面的了解,Kimi是国内最早支持20万字无损上下文的AI助手,并且目前已经启动200万字无损上下文的内测。所以它的大文件处理才会那么牛掰。
我已经在Kimi官网申请加入200万字上下文的waiting list了,可惜还未通过。申请入口我也分享给大家:
Kimi+ 地址:https://kimi.moonshot.cn/kimiplus-square
然后Kimi最近还上新了Kimi+,也就是使用Kimi实现的各个专业领域的AI助手,这里竟然也有论文降低AI率的功能,毕业在即,写论文的小伙伴不妨试试。Kimi+ 地址:https://kimi.moonshot.cn/kimiplus-square
最后发现Kimi除了APP和网页端,竟然还有微信小程序(以后使用起来就更方便了!)
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-03-30
2024-04-26
2024-05-10
2024-04-12
2024-05-28
2024-05-14
2024-04-25
2024-07-18
2024-04-26
2024-05-06
2024-12-21
2024-12-21
2024-12-21
2024-12-21
2024-12-20
2024-12-20
2024-12-19
2024-12-16