1. 首页
  2. 编程语言
  3. Python
  4. 使用Python快速打开一个百万行级别的超大Excel文件的方法

使用Python快速打开一个百万行级别的超大Excel文件的方法

上传者: 2021-07-04 13:53:45上传 PDF文件 68.00 KB 热度 32次

知乎上有同学求助说,当他试图打开一个20M左右的excel文件时,无论是使用pandas的read_excel,还是直接使用xlrd或者openpyxl模块,速度都慢到无法忍受的程度,耗时大约1分钟左右。为便于测试,先用下面的代码生成一个一百万行数据的excel文件。不过,也别高兴得太早,openpyxl模块并没有提供像pandas.read_excel()那样把全部数据读入一个数据结构的功能,只能定位到行、列或格子以后再读取数据。那么,pandas.read_excel()是否也支持只读模式呢?遗憾的是,read_excel()并没有类似read_only这样的参数。尽管read_excel()可以接受文件路径、文件对象、类文件对象,甚至是二进制数据,但即使将文件内容传入,read_excel()解析这100万行数据仍然需要大约80秒钟。对此,pandas也无能为力。

用户评论