鱼C论坛

 找回密码
 立即注册
楼主: Lwq_Official

python处理Excel大文件速度太慢!!

[复制链接]
发表于 2022-4-4 14:35:51 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-4 18:37:29 | 显示全部楼层
file是什么啊
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-4 18:38:00 | 显示全部楼层

回帖奖励 +10 鱼币

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-4 21:32:34 | 显示全部楼层

回帖奖励 +10 鱼币

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-5 09:26:00 | 显示全部楼层

回帖奖励 +10 鱼币

我也处理过类似的,有点经验仅供参考,其实读取不慢,慢的是append和concat。
我采取的是循环读取,然后再concat。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-5 09:42:31 | 显示全部楼层

回帖奖励 +10 鱼币

加油
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-5 18:15:59 | 显示全部楼层

回帖奖励 +10 鱼币

怎么解决的?
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-10 20:40:17 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-11 10:15:53 | 显示全部楼层

回帖奖励 +10 鱼币

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-11 10:18:22 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-11 19:38:25 | 显示全部楼层

回帖奖励 +10 鱼币

???
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-11 19:38:57 | 显示全部楼层

回帖奖励 +10 鱼币

???
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-11 19:59:29 | 显示全部楼层

回帖奖励 +10 鱼币

有钱人,加油
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-11 20:14:04 | 显示全部楼层

回帖奖励 +10 鱼币

不知道啊
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-12 11:27:09 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-12 17:21:51 | 显示全部楼层

回帖奖励 +10 鱼币

路过进来学习,pandas优势在于数据处理(类似统计等),针对excel处理还是推荐openpyxl和xlwings
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-13 13:19:28 | 显示全部楼层

回帖奖励 +10 鱼币

可以看看具体慢的是read还是concat
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-14 08:17:59 | 显示全部楼层

回帖奖励 +10 鱼币

10个文件,能不能试试多线程去读呢,
def concat_file():
    with concurrent.futures.ThreadPoolExecutor() as executor:
    # with concurrent.futures.ProcessPoolExecutor() as executor:
        f_451 = executor.submit(read_txt,path_45_1,'45-1')
        f_452 = executor.submit(read_txt,path_45_2, '45-2')
        f_651 = executor.submit(read_txt,path_65_1, '65-1')
        f_120 = executor.submit(read_txt,path_120, '120')
        f_ws = executor.submit(read_txt,path_wenshui, '温水')
        f_1501 = executor.submit(read_txt,path_150_1, '150-1')
        f_1502 = executor.submit(read_txt,path_150_2, '150-2')
        df_451 = f_451.result()
        df_452 = f_452.result()
        df_651 = f_651.result()
        df_120 = f_120.result()
        df_ws = f_ws.result()
        df_1501 = f_1501.result()
        df_1502 = f_1502.result()
    df = pd.concat([df_451,df_452,df_651,df_120,df_ws,df_1501,df_1502])
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2022-4-14 08:54:50 | 显示全部楼层

回帖奖励 +10 鱼币

加油
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2022-4-14 10:17:49 | 显示全部楼层

回帖奖励 +10 鱼币

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-11-14 23:10

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表