我要投稿

RAG之对于非结构性数据提取

发布日期：2025-03-12 07:50:03 浏览次数： 1553 来源：半路IT南

前段时间在B站上看到一个up主分享了一个如何《将图片或PDF中复杂的表格数据转成纯文本输入大模型，如何保持表格文字的排版布局不变？》，后面在评论中和up主讨论了一下，当一个文档中出现了多种数据结构形式，比如文本、图片、表格、公式，而不是视频分享中的单一模式，对于这些形式内容的提取可以采用哪些方法呢？

https://www.bilibili.com/video/BV1hJvQeyEZS/?vd_source=a686566edc80a9ac643686804824933c#reply249547265968

其实这种非结构性数据文本在生活中似乎更长见，大家对这种数据的处理也确实比较头疼，后台也有很多好友咨询我处理的方式，这里对我自己的做法进行如下分享：

整体思路可以参考omniparser，首先读取整个文本切分成单叶，然后对于每一页数据结合yolov8等模型对该页文本进行检测切分，整体结构如下，

而对于文章中经常出现的文本、图片、表格、公式等非结构性数据形式，通过检测模型得到对应的模块，然后分别送入对应的sota识别模块，这里可以结合传统的技术，也可以采用多模态技术，比如对于表格内容识别就可以利用Table-LLaVA等。然后再将提取的信息embedding到数据库，结合rag技术实现对基座llm在垂直领域的回答能力。

最后，对于非结构性数据信息的提取，各种新的方式方法有很多，大家在学习中不断总结吧！

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-03-12

万字长文讲透 RAG在实际落地场景中的优化

2025-03-11

什么是Embedding向量模型？我们应该如何选择？

2025-03-11

RAGFlow创建知识库

2025-03-11

精通代理性RAG：实施自我评估机制以增强信息检索的5个步骤

2025-03-11

RAG 的五大范式

2025-03-11

陶哲轩使用o3 mini一手测评来了：好坏参半

2025-03-11

Anything LLM高级用法-deepseek本地调用神器

2025-03-11

Rig Agents：高阶LLM编排框架

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

一文彻底搞懂大模型 - RAG（检索、增强、生成）

2024-09-04

全网最全国内Agent平台深度测评：扣子、Dify、FastGPT，谁是你的Agent开发首选？

2024-10-27

GraphRAG+Ollama 本地部署，保姆教程，踩坑无数，闭坑大法

2024-07-18

RAGFlow：基于OCR和文档解析的下一代 RAG 引擎

2024-05-05

RAG框架，都在这了!

2024-06-20

RAG 高效应用指南：Embedding 模型的选择和微调

2024-06-13

深入解析 Graph RAG：提升语言模型问答能力的创新策略

2024-07-09

微软开源的GraphRAG解读

2024-07-09

基于Llama 3 构建RAG语音助手：将本地 RAG 与 Qdrant、Whisper 和 LangChain 集成

2024-05-19

Prompt工程师必备：复旦重磅 | 最佳RAG实践长什么样的？

2024-07-07

大家都在问

什么是Embedding向量模型？我们应该如何选择？

2025-03-11

Graph RAG 迎来记忆革命：“海马体”机制如何提升准确率？

2025-03-05

谷歌放大招！RAG 技术已死？

2025-03-03

知识库对决：知乎、钉钉、腾讯、谷歌，谁更懂你的资料？

2025-03-02

直接拿大模型当搜索页(SERP)会怎样？

2025-02-28

传统RAG的局限被打破！三个轻量级智能体分工协作，如何让问答系统更精准？

2025-02-24

RAG、LangChain、Agent 到底有啥关系？

2025-02-23

解锁AI新技能！揭秘检索增强生成（RAG）：如何让AI更懂你的业务？

2025-02-15

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）杨小姐 186 6662 7370

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204 陈先生 185 8882 0121

上海：上海市浦东新区金新路58号1602室戴先生 186 1639 7587

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部