4秒读取50w行Excel数据

4秒读取50w行Excel数据

文章比较了几种常用的读取Excel的方法，最终发现rust库Calamine的速度最快，可以在4秒内读取50w行excel数据。

原文：Fastest Way to Read Excel in Python：https://hakibenita.com/fast-excel-python

我们在测试什么

我们创建了一个25MB的Excel文件(.xlsx)，包含50w行数据，每行的内容包含整数、小数、日期、布尔值、字符串5列。
使用一个迭代器来逐行遍历文件，但不进行任何操作，只比较读取速度。

使用time.perf_counter()来记录时间。

import time

start = time.perf_counter()
for row in iter_excel(file): pass
elapsed = time.perf_counter() - start

参与比较的方法

• Pandas：Pandas是Python的数据分析库，
• Tablib：Tablib 是 Python 中最受欢迎的库之一，用于导入和导出各种格式的数据。它最初是由requests库的创建者开发的。
• Openpyxl：专门在Python中读写Excel数据的库。
• LibreOffice：一个开源的办公软件，支持xlsx，并且提供了命令行模式。
• DuckDB：DuckDB 是一个“进程内 SQL OLAP 数据库管理系统”
• Calamine：Calamine 是一个纯 Rust 库，用于读取 Excel 和 OpenDocument 电子表格文件。python-calamine是它的Python绑定。

他们的运行结果如下：

文章也提供了代码：https://github.com/hakib/fast-excel-python
我的运行结果和原文类似，calamine能在4秒（大概4秒，具体时间和电脑配置有关）完成50w行Excel数据的读取。尽管Python性能一般，但享受了Rust高性能的福利。

运行代码需要Python3.9及以上版本。

代码007普通

打赏 收藏 海报 链接