大文本矩阵的转置

得到一个近1G的文本矩阵,想来个行列转换

刚开始很甜地觉得用个小包就能搞定

手头正在用numpy 于是来loadtxt

于是。。。卡了。。。本子果然是战斗力只有5的渣渣


接着随手写了个python脚本

想着不就是内存之类的不够用吗 我一行行地读不行吗!

def revefile(filename):
  f=open(filename,'r')
  # Although I plan to use numpy,but I found it's...too big...

  os.mkdir('revetmp')
  print 'begin read file...'
  f=open('filname','r')
  count=0
  for s in f:
    count+=1
    s=s.replace('\t','\n').replace('\r','')
    w=open('revetmp/t_'+str(count)+'.txt','wb+')
    w.writelines(s)
    w.close()
    if(count%10000==0):print count
  print count
  f.close()

  print 'try to paste files....'
  os.system('paste -d\t revetmp/* > reversefile.txt')
  os.system('rm -rf revetmp')
答案是 不行啊

280多万行 缓慢地爬了

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值