微信扫码
添加专属顾问
我要投稿
Dify与Fastgpt强强联合,打造企业级AI应用新体验! 核心内容: 1. Dify知识库的不足与Fastgpt的优势 2. 创新方案:Dify外接Fastgpt知识库 3. 喂饭级教程:三步快速部署fda适配器
1.即便使用最新的父子分段后效果仍不理想;
2.配置有点繁琐,在知识库创建流程中已经设定了重排模型,到应用关联知识库的时候还要设定一次;
3.dify的知识库也支持fastgpt的问答拆分模式,但是这个拆分速度非常慢,还容易出错;
4.使用问答拆分之后的回复也是一坨,,,
PS:如果您有其他方案,欢迎评论区分享~
地址:https://github.com/kangarooking/fastgpt-dify-adapter
PS:dify和fastgpt都有云端版本,懒得本地部署的朋友也可以通过云端版本测试。
咱们不需要去下载fda的源码,直接创建一个fda的docker-compose.yml配置文件即可。
先随便新建一个文件夹,在文件夹下新建一个.txt文件,把如下内容复制到.txt文件中(一定要保持yml格式,不能乱)
version: '3'services: fastgpt-dify-adapter: image: registry.cn-guangzhou.aliyuncs.com/kangarooking/fastgpt-dify-adapter:1.0.1 ports: - "5000:5000" environment: - FASTGPT_BASE_URL=http://host.docker.internal:3000 # 问题优化配置 - DATASET_SEARCH_USING_EXTENSION=false - DATASET_SEARCH_EXTENSION_MODEL=deepseek-chat - DATASET_SEARCH_EXTENSION_BG= # 重排序配置 - DATASET_SEARCH_USING_RERANK=false restart: unless-stopped
ps:本次镜像也特别帮大家上传到了阿里云,这样不需要科学上网就能快速下载镜像啦
.txt文件保存之后,将文件名连着后缀一起修改为docker-compose.yml
FASTGPT_BASE_URL:配置fastgpt地址(如果fastgpt和fda部署在同一个服务器的docker中,fastgpt地址建议直接使用 http://host.docker.internal:3000)
问题优化 和 重排序配置对应fastgpt的什么配置呢?
我放两个图你就懂了
docker-compose.yml文件配置好之后
在docker-compose.yml文件所在目录的地址栏输入cmd 回车,进入控制台。
控制台输入指令docker-compose up -d ,然后 回车(就自动下载、部署fda了)
如上图部署成功之后,可以打开docker-desktop,找到Containers->fda->view details查看fda的日志
我们需要获取fastgpt的openapi key
创建openapi key之后 需要复制下来备用
找到你想要接入dify的知识库,点进去
在最右边找到知识库id,复制下来备用
访问dify,知识库->外部知识库API->添加外部知识库API
API Endpoint填写fda的地址+端口(如有)
PS:如果dify和fda也是部署在同一服务器的docker中,fda的地址直接用:http://host.docker.internal:5000
如下图就保存成功了
然后我们创建一个外部知识库
注意填写刚刚复制的fastgpt知识库id
Top K 和 Score对应fastgpt哪里的配置,我放个图你就明白了
Top K为4=fastgpt的引用上限2000(如果是5就对应2500,以此类推)
Score=fastgpt的最低相关度
建议 Top K拉到6以上,可以提供更多的长下文
配置好之后,点击连接
最后,随便进入一个dify应用,点击添加知识库
选择刚刚创建的外部库,添加
会弹出设置(这里的设置经我测试不起作用,不用管),直接保存
到这一步,我们就可以在dify里面愉快的使用fastgpt知识库来进行问答回复啦~ 效果提升不止一点点!
点击引用,还可以看到所有的引用内容
如果后续想调整外部知识库的参数,可以到外部知识库->设置里面调整
至此
外接fastgpt知识库的dify才算是世界上最好用的开源LLM应用平台!
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-12-24
2024-04-25
2024-07-16
2024-07-20
2024-04-24
2024-05-08
2024-06-21
2024-05-09
2024-08-06
2024-11-15