鱼C论坛

 找回密码
 立即注册
查看: 3082|回复: 2

python怎么读取大文件

[复制链接]
发表于 2015-10-6 17:25:17 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
因为想用嘻哈模块算文件的md5,涉及到一步读取文件。
文件很大20G,内存是肯定不够用的
用file.read()和
for line in smbd:
        file.append(line)
都显示内存溢出,该怎么办
小甲鱼最新课程 -> https://ilovefishc.com
回复

使用道具 举报

发表于 2015-10-6 17:35:00 | 显示全部楼层
如果不能确定文件大小,反复调用 read(size) 比较保险,size 参数指定每次需要读取的尺寸,默认是 -1 表示全部读进来,20G 全部读进来肯定要爆内存的……
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2015-10-6 18:21:01 | 显示全部楼层
小甲鱼 发表于 2015-10-6 17:35
如果不能确定文件大小,反复调用 read(size) 比较保险,size 参数指定每次需要读取的尺寸,默认是 -1 表示 ...

这个方法好,读完一次用一次updete这部分就没用了
小甲鱼最新课程 -> https://ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2026-2-17 20:45

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表