我要投稿

会呼吸的RAG项目前沿，及总结预告

发布日期：2024-06-08 11:16:09 浏览次数： 1776 来源：一意AI增效家

在Llamaindex的全栈项目分享会上，我多次提到要优先使用RAG，尽量不要微调或增量，大规模的+数据质量错位的，微调+增量技术，不靠谱，很难收到结果！

在会议末尾讲了一下什么情况下用RAG，也分享了一些RAG的坑和经验，刚刚不想让会议显得太长，我这里再补充一下：

重申技术背后：

RAG技术是通过从外部来源检索信息，将内容添加到提示中，然后调用LLM！

目标是为模型提供其参数化上下文（或基本知识）中可能没有的信息。

存在问题与经验：

① 交互问题

通常需要三四轮对话才能理解客户的问题，因为一开始消息没有深入，都是客套话！没用！

当然，可以设置马上开始检索，但！过早检索数据时，检索的文本没有足够上下文，是很容易检索到垃圾信息的，除非你可以一条提示词，办完事！否则，这时，大模型的注意力集中在错误内容上，降低了生成的准确度！

② 尝试优化想法

基于以上，我们设计了一个确定对话意图过程，然后切换到对应+专门的RAG提示词！有效，但很呆！

③ 最终方案

我们需要多个提示词和状态来模拟对话！基于以上的升级！

LLM Agent（带工具）

与一组操作（工具）配对的提示词

在对话过程中，提示可以返回一个响应，指示应该调用一个带有参数的操作

例如：管理代理的软件执行该操作（“调用baidu.com”）并将结果作为新消息返回到提示词。使用新结果继续与用户进行对话！

④ RAG有两种模式的

第一种：静态，使用提示词和已向量的数据，检索交互

第二种：动态，一边交互，一边把交互内容，生成搜索词，会呼吸的RAG，实现自主更新！提高生成质量！

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

微软开源的GraphRAG解读

2024-07-09

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

RAG框架，都在这了!

2024-06-20

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

2024-07-07

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

2024-07-08

【文档智能 & RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路

2024-07-09

大家都在问

RAG vs ICL：AI大模型的记忆术和临场发挥，谁才是最强辅助？

2024-11-06

企业如何从0到1构建RAG系统？

2024-11-06

RAG 系统的分块难题：小型语言模型如何找到最佳断点？

2024-11-05

实操｜如何优雅的实现RAG与GraphRAG应用中的知识文档增量更新？

2024-11-04

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

微软研究院新突破：如何让AI在专业领域更靠谱？

2024-10-25

语义分块真的有效吗？

2024-10-21

突破传统RAG局限：GraphRAG如何提升大模型问答能力？

2024-10-21

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

微软开源的GraphRAG解读

深入解析 Graph RAG：提升语言模型问答能力的创新策略

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

RAG框架，都在这了!

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

下一代 RAG 技术来了！微软正式开源 GraphRAG：大模型行业将迎来新的升级？

GraphRAG：终极 RAG 引擎 - 语义搜索、嵌入、矢量搜索等等！

【文档智能 & RAG】RAG增强之路：增强PDF解析并结构化技术路线方案及思路

大家都在问

RAG vs ICL：AI大模型的记忆术和临场发挥，谁才是最强辅助？

企业如何从0到1构建RAG系统？

RAG 系统的分块难题：小型语言模型如何找到最佳断点？

实操｜如何优雅的实现RAG与GraphRAG应用中的知识文档增量更新？

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

微软研究院新突破：如何让AI在专业领域更靠谱？

语义分块真的有效吗？

突破传统RAG局限：GraphRAG如何提升大模型问答能力？

热门标签