eol python 全称_Python:在文件中寻找EOL不起作用

我有这个方法:def get_chunksize(path):

"""

Breaks a file into chunks and yields the chunk sizes.

Number of chunks equals the number of available cores.

Ensures that each chunk ends at an EOL.

"""

size = os.path.getsize(path)

cores = mp.cpu_count()

chunksize = size/cores # gives truncated integer

f = open(path)

while 1:

start = f.tell()

f.seek(chunksize, 1) # Go to the next chunk

s = f.readline() # Ensure the chunk ends at the end of a line

yield start, f.tell()-start

if not s:

break

它应该将一个文件分成块,并返回块的开头(以字节为单位)和块大小。你知道吗

关键的是,一个块的结尾应该与一行的结尾相对应(这就是f.readline()行为存在的原因),但是我发现我的块根本不寻求一个EOL。你知道吗

该方法的目的是读取可以传递给csv.reader实例(通过StringIO)进行进一步处理的块。你知道吗

我一直无法发现任何明显的错误与功能…有什么想法,为什么它不移动到下线?你知道吗

我想出了一个相当笨拙的选择:def line_chunker(path):

size = os.path.getsize(path)

cores = mp.cpu_count()

chunksize = size/cores # gives truncated integer

f = open(path)

while True:

part = f.readlines(chunksize)

yield csv.reader(StringIO("".join(part)))

if not part:

break

这将把文件分成块,每个块都有一个csv读取器,但是最后一个块总是空的(?)而要把一系列串串在一起是相当笨拙的。你知道吗

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值