MarkItDown:将各种文件转成Markdown!
itomcoil 2025-01-04 20:24 52 浏览
MarkItDown 是 Microsoft 开发的 Python 包,旨在将各种文件格式转换为 Markdown。
自首次亮相以来,该库的人气飙升,在短短两周内就获得了超过 25,000 个 GitHub 星!
1、是什么让 MarkItDown 如此受欢迎?
MarkItDown 为各种文件类型提供强大的支持,例如:
- Office 格式:Word、PowerPoint、Excel
- 媒体文件:图像(带有 EXIF 数据和描述)、音频(带有转录支持)
- Web 和数据格式:HTML、JSON、XML、CSV
- 档案:ZIP 文件
它不仅可以处理 Word 等标准格式,还可以处理多模式数据,这使其脱颖而出。例如,它使用 OCR 和语音识别从图像和音频文件中提取内容。
将任何内容转换为 Markdown 的能力使 MarkItDown 成为 LLM 培训的强大工具。通过处理特定领域的文档,它提供了丰富的上下文,以便在 LLM 驱动的应用程序中生成更准确、更相关的响应。
2、MarkItDown 入门
使用 MarkItDown 非常简单 - 只需要 4 行代码:
from markitdown import MarkItDown
md = MarkItDown()
result = md.convert("test.xlsx")
print(result.text_content)
以下是 MarkItDown 的一些用例。
转换 Word 文档可生成干净准确的 Markdown:
即使是多标签 Excel 电子表格也可以轻松处理:
ZIP 存档?没问题!该库会递归解析其中的所有文件:
最初,图像提取可能不会产生任何结果:
这是因为 MarkItDown 依赖 LLM 来生成图像描述。通过集成 LLM 客户端,您可以启用此功能:
from openai import OpenAI
client = OpenAI(api_key="i-am-not-an-api-key")
md = MarkItDown(llm_client=client, llm_model="gpt-4o")
配置完成后,可以成功处理图像文件:
注意:LLM 不会处理基于图像的 PDF。PDF 需要 OCR 预处理才能提取内容。
但是,PDF 在提取时会丢失其格式,因此无法区分标题和纯文本:
3、局限性
MarkItDown 并非没有限制:
- 无法处理没有 OCR 的 PDF 文件。
- 从 PDF 文件中提取时无法设置格式。
尽管如此,作为一个开源项目,它具有高度可定制性。由于其代码库简洁,开发人员可以轻松扩展其功能。
4、MarkItDown 的工作原理
MarkItDown 的架构简单且模块化。其核心逻辑完全位于单个文件中。
它有一个 DocumentConverter 类,该类定义了一个通用的 convert() 方法:
class DocumentConverter:
"""Base class for all document converters."""
def convert(
self, local_path: str, **kwargs: Any
) -> Union[None, DocumentConverterResult]:
raise NotImplementedError()
各个转换器从此基类继承并动态注册:
self.register_page_converter(PlainTextConverter())
self.register_page_converter(HtmlConverter())
self.register_page_converter(DocxConverter())
self.register_page_converter(XlsxConverter())
self.register_page_converter(Mp3Converter())
self.register_page_converter(ImageConverter())
# ...
这种模块化方法可以轻松添加对新文件类型的支持。
5、文件转换工作流程
- Office 文档
使用 mammoth、pandas 或 pptx 等库将 Office 文件转换为 HTML,然后使用 BeautifulSoup 转换为 Markdown。
- 音频文件
音频使用 Speech_recognition 库转录,该库利用 Google 的 API。
(微软,为什么不使用 Azure?)
- 图像
图像处理涉及通过 LLM 提示生成标题:
“为此图像写一个详细描述。”
PDF 由 pdfminer 库处理,但缺少内置 OCR。你必须预处理 PDF 以进行文本提取。
6、将 MarkItDown 部署为 API
MarkItDown 可以在本地运行,但将其作为 API 托管可以解锁额外的灵活性,使其易于集成到 Zapier 和 n8n 等工作流程中。
以下是使用 FastAPI 的 MarkItDown API 的简单示例:
import shutil
from markitdown import MarkItDown
from fastapi import FastAPI, UploadFile
from uuid import uuid4
md = MarkItDown()
app = FastAPI()
@app.post("/convert")
async def convert_markdown(file: UploadFile):
unique_id = uuid4()
temp_dir = f"./temp/{unique_id}"
shutil.os.makedirs(temp_dir, exist_ok=True)
file_path = f"{temp_dir}/{file.filename}"
with open(file_path, "wb") as f:
shutil.copyfileobj(file.file, f)
result = md.convert(file_path)
content = result.text_content
shutil.rmtree(temp_dir)
return {"result": content}
要调用API:
const formData = new FormData();
formData.append('file', file);
const response = await fetch('http://localhost:8000/convert', {
method: 'POST',
body: formData,
});
7、免费托管 API
托管 Python API 可能很棘手。传统服务(如 AWS EC2 或 DigitalOcean)需要租用整台服务器,这总是很昂贵。
但现在,你可以使用 Leapcell。
这是一个可以以无服务器方式托管 Python 代码库的平台 - 它只按 API 调用收费,并提供慷慨的免费使用套餐。
只需连接你的 GitHub 存储库,定义构建和启动命令,一切就绪:
现在你有一个托管在云中的 MarkItDown API,可以集成到你的工作流程中,最重要的是,只有在真正调用时才收费。
原文链接:MarkItDown深入研究 - 汇智网
相关推荐
- MySQL修改密码_mysql怎么改密码忘了怎么办
-
拥有原来的用户名账户的密码mysqladmin-uroot-ppassword"test123"Enterpassword:【输入原来的密码】忘记原来root密码第一...
- 数据库密码配置项都不加密?心也太大了吧!
-
先看一份典型的配置文件...省略...##配置MySQL数据库连接spring.datasource.driver-class-name=com.mysql.jdbc.Driverspr...
- Linux基础知识_linux基础入门知识
-
系统目录结构/bin:命令和应用程序。/boot:这里存放的是启动Linux时使用的一些核心文件,包括一些连接文件以及镜像文件。/dev:dev是Device(设备)的缩写,该目录...
- MySQL密码重置_mysql密码重置教程
-
之前由于修改MySQL加密模式为mysql_native_password时操作失误,导致无法登陆MySQL数据库,后来摸索了一下,对MySQL数据库密码进行重置后顺利解决,步骤如下:1.先停止MyS...
- Mysql8忘记密码/重置密码_mysql密码忘了怎么办?
-
Mysql8忘记密码/重置密码UBUNTU下Mysql8忘记密码/重置密码步骤如下:先说下大概步骤:修改配置文件,使得用空密码可以进入mysql。然后置当前root用户为空密码。再次修改配置文件,不能...
- MySQL忘记密码怎么办?Windows环境下MySQL密码重置图文教程
-
有不少小白在使用Windows进行搭建主机的时候,安装了一些环境后,其中有MySQL设置后,然后不少马大哈忘记了MySQL的密码,导致在一些程序安装及配置的时候无法进行。这个时候怎么办呢?重置密码呗?...
- 10种常见的MySQL错误,你可中招?_mysql常见错误提示及解决方法
-
【51CTO.com快译】如果未能对MySQL8进行恰当的配置,您非但可能遇到无法顺利访问、或调用MySQL的窘境,而且还可能给真实的应用生产环境带来巨大的影响。本文列举了十种MySQL...
- Mysql解压版安装过程_mysql解压版安装步骤
-
Mysql是目前软件开发中使用最多的关系型数据库,具体安装步骤如下:第一步:Mysql官网下载最新版(mysql解压版(mysql-5.7.17-winx64)),Mysql官方下载地址为:https...
- MySQL Root密码重置指南:Windows新手友好教程
-
如果你忘记了MySQLroot密码,请按照以下简单步骤进行重置。你需要准备的工具:已安装的MySQL以管理员身份访问命令提示符一点复制粘贴的能力分步操作指南1.创建密码重置文件以管理员...
- 安卓手机基于python3搜索引擎_python调用安卓so库
-
环境:安卓手机手机品牌:vivox9s4G运行内存手机软件:utermux环境安装:1.java环境的安装2.redis环境的安装aptinstallredis3.elasticsearch环...
- Python 包管理 3 - poetry_python community包
-
Poetry是一款现代化的Python依赖管理和打包工具。它通过一个pyproject.toml文件来统一管理你的项目依赖、配置和元数据,并用一个poetry.lock文件来锁定所有依赖的精...
- Python web在线服务生产环境真实部署方案,可直接用
-
各位志同道合的朋友大家好,我是一个一直在一线互联网踩坑十余年的编码爱好者,现在将我们的各种经验以及架构实战分享出来,如果大家喜欢,就关注我,一起将技术学深学透,我会每一篇分享结束都会预告下一专题最近经...
- 官方玩梗:Python 3.14(πthon)稳定版发布,正式支持自由线程
-
IT之家10月7日消息,当地时间10月7日,Python软件基金会宣布Python3.14.0正式发布,也就是用户期待已久的圆周率(约3.14)版本,再加上谐音梗可戏称为π...
- 第一篇:如何使用 uv 创建 Python 虚拟环境
-
想象一下,你有一个使用Python3.10的后端应用程序,系统全局安装了a2.1、b2.2和c2.3这些包。一切运行正常,直到你开始一个新项目,它也使用Python3.10,但需要...
- 我用 Python 写了个自动整理下载目录的工具
-
经常用电脑的一定会遇到这种情况:每天我们都在从浏览器、微信、钉钉里下各种文件,什么截图、合同、安装包、临时文档,全都堆在下载文件夹里。起初还想着“过两天再整理”,结果一放就是好几年。结果某天想找一个发...
- 一周热门
- 最近发表
- 标签列表
-
- ps图案在哪里 (33)
- super().__init__ (33)
- python 获取日期 (34)
- 0xa (36)
- super().__init__()详解 (33)
- python安装包在哪里找 (33)
- linux查看python版本信息 (35)
- python怎么改成中文 (35)
- php文件怎么在浏览器运行 (33)
- eval在python中的意思 (33)
- python安装opencv库 (35)
- python div (34)
- sticky css (33)
- python中random.randint()函数 (34)
- python去掉字符串中的指定字符 (33)
- python入门经典100题 (34)
- anaconda安装路径 (34)
- yield和return的区别 (33)
- 1到10的阶乘之和是多少 (35)
- python安装sklearn库 (33)
- dom和bom区别 (33)
- js 替换指定位置的字符 (33)
- python判断元素是否存在 (33)
- sorted key (33)
- shutil.copy() (33)