微信扫码
与创始人交个朋友
我要投稿
github:https://github.com/360AILAB-NLP/360LayoutAnalysis
权重下载地址:https://huggingface.co/qihoo360/360LayoutAnalysis
在当今数字化时代,文档版式分析是信息提取和文档理解的关键步骤之一。文档版式分析,也称为文档图像分析或文档布局分析,是指从扫描的文档图像中识别和提取文本、图像、表格和其他元素的过程。这项技术在自动化文档处理、电子数据交换、历史文档数字化等领域有着广泛的应用。
传统的文档版式分析模型往往难以准确区分文档中的段落和其他布局元素,这限制了文档信息的进一步处理和利用,而深度学习和模式识别技术的发展为文档版式分析带来了新的机遇,通过训练数据集,可以提高模型对文档结构的理解能力,但高质量的标注数据集是训练有效模型的基础。
在文档版式分析中,精细化的标注非常有必要,其中:段落的标注尤其关键,因为它直接影响到文本的语义理解和信息提取。当前,在版式分析领域,据我们了解,在论文场景中,以往的开源数据集如:CDLA(A Chinese document layout analysis),缺乏对段落信息的标注;在研报场景中的版式分析模型还相对空缺。
因此,为了解决这一问题,我们通过人工标注的方式对论文文档进行细粒度标签改造以及数据优化,并构建起研报场景细粒度版式分析数据集,最好利用这些标注数据集,训练了多个全新的中文文档版式分析模型,在封闭测试集上表现优异。
本次开源,我们优先开源了面向论文和研报两个场景的版面分析轻量化模型权重及相应的标签体系,旨在能够识别文档中的段落边界等信息,并准确区分文本、图像、表格、公式等其他元素,最终推动产业发展。
权重下载地址:?LINK
使用方式:
开源权重使用yolov8
进行训练,预测方式如下:
from ultralytics import YOLO
image_path = '' # 待预测图片路径
model_path = '' # 权重路径
model = YOLO(model_path)
result = model(image_path, save=True, conf=0.5, save_crop=False, line_width=2)
print(result)
print(result[0].names) # 输出id2label map
print(result[0].boxes) # 输出所有的检测到的bounding box
print(result[0].boxes.xyxy) # 输出所有的检测到的bounding box的左上和右下坐标
print(result[0].boxes.cls) # 输出所有的检测到的bounding box类别对应的id
print(result[0].boxes.conf) # 输出所有的检测到的bounding box的置信度
标签类别
元素 | 名称 |
---|---|
Text | 正文(段落) |
Title | 标题 |
Figure | 图片 |
Figure caption | 图片标题 |
Table | 表格 |
Table caption | 表格标题 |
Header | 页眉 |
Footer | 页脚 |
Reference | 注释 |
Equation | 公式 |
示例
标签类别
元素 | 名称 |
---|---|
Text | 正文(段落) |
Title | 标题 |
Figure | 图片 |
Figure caption | 图片标题 |
Table | 表格 |
Table caption | 表格标题 |
Header | 页眉 |
Footer | 页脚 |
Toc | 目录 |
示例
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-02-06
86 条 DeepSeek 的关键思考 |Best Ideas 开源
2025-02-06
GitCode 重磅上线 DeepSeek 全家桶!领航国产大模型新征程
2025-02-06
Dify x DeepSeek:轻松部署私有化 AI 助手,搭建本地 DeepSeek R1+ 联网搜索 App
2025-02-06
等不到 OpenAI 开源了!5 个工程师 24 小时手撸免费版 Deep Research,效果直追正主、过程全公开
2025-02-06
Open Notebook:开源AI笔记工具,支持多模型与多格式内容集成
2025-02-05
一文纵览DeepSeek模型家族:从LLM到R1
2025-02-05
抱抱脸24小时复刻Deep Research,一个团队完成一个OpenAI~
2025-02-05
从0-1:DeepSeek 大模型本地部署全攻略
2025-01-01
2024-07-25
2024-05-06
2025-01-21
2024-08-13
2024-06-12
2024-09-20
2024-07-20
2024-07-11
2024-12-26
2025-01-22
2025-01-16
2024-12-24
2024-12-20
2024-12-19
2024-11-22
2024-11-19
2024-11-13