微信扫码
添加专属顾问
我要投稿
探索微软开源的多功能文档转换工具MarkItDown,轻松实现文件格式到Markdown的转换。 核心内容: 1. Markdown在LLM和RAG模型中的重要性 2. MarkItDown的功能特性与支持格式 3. MarkItDown与大型语言模型的集成及配置选项
现在LLM(大型语言模型)应用的普遍使用和落地,Markdown格式的文档是各种LLM和RAG(检索增强生成)偏爱,主要体现在以下两个方面:
首先,Markdown是一种轻量级的标记语言,具备简洁性和易读易写的特点,使得它成为编写和存储文档的理想选择,特别是当这些文档需要通过LLM进行处理或通过RAG模型进行增强时。
其次,Markdown的结构化特性使其在进行文本处理时更加高效。例如,向量化文档时,需要根据标题层级对Markdown文件进行结构化分割,这种规范的结构化分割保留了文本的上下文和结构信息,这对于RAG模型来说非常重要,有助于提升文本向量化和RAG检索的效果。
# GitHub地址https://github.com/microsoft/markitdown
1. 多格式支持
MarkItDown 支持的文件格式丰富多样,涵盖了常见的办公和多媒体文件类型,包括:
PowerPoint
Word
Excel
图像(EXIF 元数据和 OCR)
音频(EXIF 元数据和语音转录)
HTML
基于文本的格式(CSV、JSON、XML)
ZIP 文件
Youtube 网址
EPubs
2. 灵活的配置选项
可选依赖项:MarkItDown 提供了多种可选依赖项,用户可以根据需要安装特定的依赖项,例如 pip install markitdown[pdf, docx, pptx]
只安装 PDF、DOCX 和 PPTX 文件的依赖项。
插件支持:MarkItDown 支持第三方插件,用户可以通过插件扩展其功能。插件默认是禁用的,可以通过 markitdown --use-plugins
命令启用。
3. 与大语言模型的集成
MarkItDown 支持与 GPT-4 等大语言模型集成,可以生成丰富的描述性输出,例如对图片的分析和描述。用户可以通过提供 llm_client
和 llm_model
参数来启用这一功能。
4. 其他特性
Docker 支持:MarkItDown 提供了 Docker 镜像,用户可以通过 Docker 快速部署和使用该工具。
命令行与 Python API:MarkItDown 提供了命令行工具和 Python API,用户可以根据需要选择使用方式。
pip install 'markitdown[all]'
git clone git@github.com:microsoft/markitdown.gitcd markitdownpip install -e packages/markitdown[all]
1. 命令行使用
基本用法:将文件转换为 Markdown 格式并输出到控制台。
markitdown path-to-file.pdf
指定输出文件:使用 -o
参数指定输出文件。
markitdown path-to-file.pdf -o document.md
管道输入:通过管道输入文件内容。
cat path-to-file.pdf | markitdown
2. Python API 使用
基本用法:在 Python 中使用 MarkItDown 进行文件转换。
from markitdown import MarkItDownmd = MarkItDown(enable_plugins=False) # 禁用插件result = md.convert("test.xlsx")print(result.text_content)
与大语言模型集成:使用 GPT-4 进行图片描述。
from markitdown import MarkItDownfrom openai import OpenAIclient = OpenAI()md = MarkItDown(llm_client=client, llm_model="gpt-4o")result = md.convert("example.jpg")print(result.text_content)
3. Docker 使用
构建 Docker 镜像:
docker build -t markitdown:latest .
运行 Docker 容器:
docker run --rm -i markitdown:latest < ~/your-file.pdf > output.md
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2025-04-15
Spring AI 1.0.0 M7 发布!很炸裂!!
2025-04-15
OpenManus初体验,整合千问大模型Qwen/QwQ-32B
2025-04-15
小红书开源的中文语音转文字FireRedASR:一键整合包带webui、API
2025-04-15
MacOS 的 AI Agent 新星,本地沙盒驱动,解锁 macOS 操作新体验!
2025-04-15
万万没想到有这么一天,Open智谱狙击了Close OpenAI
2025-04-15
智谱开源 9B/32B 系列模型,上线 Z.ai
2025-04-15
比R1快8倍,智谱开源GLM-Z1系列,实测 Agentic AI 也能极速深度推理!
2025-04-15
手搓Manus?MCP 原理解析与MCP Client实践
2025-01-01
2024-07-25
2025-01-21
2024-05-06
2024-09-20
2024-07-20
2024-06-12
2024-07-11
2024-08-13
2024-12-26
2025-04-15
2025-04-13
2025-04-10
2025-04-07
2025-04-03
2025-04-03
2025-04-03
2025-04-01