百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

MegaParse:多模态文档解析库 多模态数据

itomcoil 2024-12-19 13:43 47 浏览

MegaParse 是一款功能强大且用途广泛的解析器,可以轻松处理各种类型的文档。无论你处理的是文本、PDF、Powerpoint 演示文稿还是 Word 文档,MegaParse 都能满足你的需求。专注于在解析过程中不丢失信息。

1、MegaParse简介

MegaParse的主要特点:

  • 多功能解析器:MegaParse 是一款功能强大且用途广泛的解析器,可以轻松处理各种类型的文档。
  • 无信息丢失:专注于在解析过程中不丢失信息。
  • 快速高效:以速度和效率为核心进行设计。
  • 广泛的文件兼容性:支持文本、PDF、Powerpoint 演示文稿、Excel、CSV、Word 文档。
  • 开源:自由是美好的,MegaParse 也是如此。开源且免费使用。

MegaParse目支持:

  • 文件:? PDF ? Powerpoint ? Word
  • 内容:? 表格 ? 目录 ? 页眉 ? 页脚 ? 图片

点击这里查看MegaParse的演示视频。

2、MegaParse快速上手

首先使用pip安装:

pip install megaparse

然后设置环境:

  • 将你的 OpenAI 或 Anthropic API 密钥添加到 .env 文件
  • 在你的计算机上安装 poppler(图片和 PDF)
  • 在你的计算机上安装 tesseract(图片和 PDF)
  • 如果是Mac,你还需要安装 libmagic: brew install libmagic

下面的代码使用MegaParse的 UnstructuredParser 提取pdf文件内容并保存为markdown格式的文件:

from megaparse import MegaParse
from langchain_openai import ChatOpenAI
from megaparse.parser.unstructured_parser import UnstructuredParser

parser = UnstructuredParser()
megaparse = MegaParse(parser)
response = megaparse.load("./test.pdf")
print(response)
megaparse.save("./test.md")

启动多模态分析

将解析器更改为 MegaParseVision,即可启用多模态分析:

from megaparse import MegaParse
from langchain_openai import ChatOpenAI
from megaparse.parser.megaparse_vision import MegaParseVision

model = ChatOpenAI(model="gpt-4o", api_key=os.getenv("OPENAI_API_KEY"))  # type: ignore
parser = MegaParseVision(model=model)
megaparse = MegaParse(parser)
response = megaparse.load("./test.pdf")
print(response)
megaparse.save("./test.md")

注意:MegaParse Vision 支持的模型是多模态模型,例如 claude 3.5、claude 4、gpt-4o 和 gpt-4。

使用LlamaParse增强效果

可选的,可以使用 LlamaParse 获得更好的结果。你需要在 Llama Cloud 上创建一个帐户并获取API 密钥,然后将解析器更改为 LlamaParser:

from megaparse import MegaParse
from langchain_openai import ChatOpenAI
from megaparse.parser.llama_parser import LlamaParser

parser = LlamaParser(api_key = os.getenv("LLAMA_CLOUD_API_KEY"))
megaparse = MegaParse(parser)
response = megaparse.load("./test.pdf")
print(response)
megaparse.save("./test.md") #saves the last processed doc in md format

作为 API使用

MegaParse提供了一个 MakeFile,只需在项目的根目录中使用 make dev 即可启动。

有关不同API端点的更多信息,请参阅 localhost:8000/docs !

3、基准测试

解析器

相似比

megaparse_vision

0.87

unstructured_with_check_table

0.77

unstructured

0.59

llama_parser

0.33

相似比的值越高越好。


原文链接:MegaParse多模态文档解析库 - 汇智网

相关推荐

《Queendom》宣布冠军!女团MAMAMOO四人激动落泪

网易娱乐11月1日报道据台湾媒体报道,南韩女团竞争回归的生死斗《Queendom》昨(10/31)晚播出大决赛,并以直播方式进行,6组女团、女歌手皆演唱新歌,并加总前三轮的赛前赛、音源成绩与直播现场投...

正确复制、重写别人的代码,不算抄袭

我最近在一篇文章提到,工程师应该怎样避免使用大量的库、包以及其他依赖关系。我建议的另一种方案是,如果你没有达到重用第三方代码的阈值时,那么你就可以自己编写代码。在本文中,我将讨论一个在重用和从头开始编...

HTML DOM tr 对象_html event对象

tr对象tr对象代表了HTML表格的行。HTML文档中出现一个<tr>标签,就会创建一个tr对象。tr对象集合W3C:W3C标签。集合描述W3Ccells返回...

JS 打造动态表格_js如何动态改变表格内容

后台列表页最常见的需求:点击表头排序+一键全选。本文用原生js代码实现零依赖方案,涵盖DOM查询、排序算法、事件代理三大核心技能。效果速览一、核心思路事件入口:为每个<th>绑...

连肝7个晚上,总结了66条计算机网络的知识点

作者|哪吒来源|程序员小灰(ID:chengxuyuanxiaohui)计算机网络知识是面试常考的内容,在实际工作中经常涉及。最近,我总结了66条计算机网络相关的知识点。1、比较http0....

Vue 中 强制组件重新渲染的正确方法

作者:MichaelThiessen译者:前端小智来源:hackernoon有时候,依赖Vue响应方式来更新数据是不够的,相反,我们需要手动重新渲染组件来更新数据。或者,我们可能只想抛开当前的...

为什么100个前端只有1人能说清?浏览器重排/重绘深度解析

面试现场的"致命拷问""你的项目里做过哪些性能优化?能具体讲讲重排和重绘的区别吗?"作为面试官,我在秋招季连续面试过100多位前端候选人,这句提问几乎成了必考题。但令...

HTML DOM 介绍_dom4j html

HTMLDOM(文档对象模型)是一种基于文档的编程接口,它是HTML和XML文档的编程接口。它可以让开发人员通过JavaScript或其他脚本语言来访问和操作HTML和XML文档...

JavaScript 事件——“事件流和事件处理程序”的注意要点

事件流事件流描述的是从页面中接收事件的顺序。IE的事件流是事件冒泡流,而NetscapeCommunicator的事件流是事件捕获流。事件冒泡即事件开始时由最具体的元素接收,然后逐级向上传播到较为不...

探秘 Web 水印技术_水印制作网页

作者:fransli,腾讯PCG前端开发工程师Web水印技术在信息安全和版权保护等领域有着广泛的应用,对防止信息泄露或知识产品被侵犯有重要意义。水印根据可见性可分为可见水印和不可见水印(盲水印)...

国外顶流网红为流量拍摄性侵女学生?仅被封杀三月,回归仍爆火

曾经的油管之王,顶流网红DavidDobrik复出了。一切似乎都跟他因和成员灌酒性侵女学生被骂到退网之前一样:住在950万美元的豪宅,开着20万美元的阿斯顿马丁,每条视频都有数百万观看...人们仿佛...

JavaScript 内存泄漏排查方法_js内存泄漏及解决方法

一、概述本文主要介绍了如何通过Devtools的Memory内存工具排查JavaScript内存泄漏问题。先介绍了一些相关概念,说明了Memory内存工具的使用方式,然后介绍了堆快照的...

外贸独立站,网站优化的具体内容_外贸独立站,网站优化的具体内容有哪些

Wordpress网站优化,是通过优化代码、数据库、缓存、CSS/JS等内容,提升网站加载速度、交互性和稳定性。网站加载速度,是Google搜索引擎的第一权重,也是SEO优化的前提。1.优化渲染阻塞。...

这8个CSS工具可以提升编程速度_css用什么编译器

下面为大家推荐的这8个CSS工具,有提供函数的,有提供类的,有提取代码的,还有收集CSS的统计数据的……请花费两分钟的时间看完这篇文章,或许你会找到意外的惊喜,并且为你的编程之路打开了一扇新的大门。1...

vue的理解-vue源码 历史 简介 核心特性 和jquery区别 和 react对比

一、从历史说起Web是WorldWideWeb的简称,中文译为万维网我们可以将它规划成如下的几个时代来进行理解石器时代文明时代工业革命时代百花齐放时代石器时代石器时代指的就是我们的静态网页,可以欣...