美文网首页
Python使用生成器读取大文件

Python使用生成器读取大文件

作者: 暖遇 | 来源:发表于2018-09-11 16:37 被阅读0次

encoding:utf-8

author = 'zhoupao'
date = '2018/7/15 20:31'

500G, 特殊 一行

def myreadlines(f, newline):
buf = ""
while True:
while newline in buf:
pos = buf.index(newline)
yield buf[:pos]
buf = buf[pos + len(newline):]
chunk = f.read(4096)

if not chunk:
  #说明已经读到了文件结尾
  yield buf
  break
buf += chunk

with open("input.txt") as f:
for line in myreadlines(f, "{|}"):
print(line)

相关文章

网友评论

      本文标题:Python使用生成器读取大文件

      本文链接:https://www.haomeiwen.com/subject/qlbugftx.html