粤ICP备17114055号
微信扫码
与创始人交个朋友
支持私有云部署
我要投稿
前言
最近看FastGPT挺火的，于是本地部署了一个，主要用于搭建焊接知识库，感觉效果还不错。
FastGPT简介
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，是一个典型的RAG项目，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！
01
工作原理
首先准备好文档，把每个文档切成若干小的模块。
调用文本转向量的接口，将每个模块转为一个向量，并存入向量数据库。
当用户发来一个问题的时候，将问题同样转为向量，并检索向量数据库，得到相关性最高的一个模块。
将问题和检索结果合并重写为一个新的请求发给ChatGLM进行文档问答。
02
主要功能
1. 专属 AI 客服
通过导入文档或已有问答对进行训练，让 AI 模型能根据你的文档以交互式对话方式回答问题。
2. 简单易用的可视化界面
FastGPT 采用直观的可视化界面设计，为各种应用场景提供了丰富实用的功能。通过简洁易懂的操作步骤，可以轻松完成 AI 客服的创建和训练流程。
3. 自动数据预处理
提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径，其中“直接分段”支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割，节省手动训练时间，提升效能。
4. 工作流编排
基于 Flow 模块的工作流编排，可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等。
5. 强大的 API 集成
FastGPT 对外的 API 接口对齐了 OpenAI 官方接口，可以直接接入现有的 GPT 应用，也可以轻松集成到企业微信、公众号、飞书等平台。
使用方法
01
在线试用
登录https://fastgpt.in，可以进行在线试用。需要注册账号，然后免费额度为3元，3元以内，所有功能基本可以体验一遍。
02
本地部署
如果需要正儿八经地干事，打造自己的专属、安全的知识库，还是得本地化部署。
主要需要部署chatglm大语言模型、m3e词向量模型，然后用docker部署fastGPT，之后可以将大模型与fastGPT直连，也可以用oneapi进行转接管理，跑通后效果如下：
53AI，企业落地应用大模型首选服务商
产品：大模型应用平台+智能体定制开发+落地咨询服务
承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2024-09-19
o1 能带我们走进 AGI 吗？
2024-09-19
解锁医疗新未来：Sunsimiao-7B 中文医疗大模型震撼登场
2024-09-19
36%的国资央企组建大模型团队，沙丘智库发布《2024年国资央企大模型应用跟踪报告》
2024-09-18
AI大模型实战篇：LATS，可能是目前最强的AI Agent设计框架
2024-09-18
360视角：大模型幻觉问题及其解决方案的深度探索与实践
2024-09-18
太爽了！o1 现在可以天天享用了
2024-09-18
Claude Artifacts 数据分析的N种打开方式（附Prompt)
2024-09-18
如何微调（Fine-tuning）大语言模型？
2024-07-18
2024-03-30
2024-04-26
2024-04-11
2024-05-06
2024-06-12
2024-05-09
2023-07-01
2024-07-07
2024-07-25
回到顶部