Java解析bz2文件,用java和python解析非常大的bz2xml文件(逐个元素)

我有一个20gbbz2xml文件。格式如下:

text text text ....

我需要以以下格式将其处理为tsv文件:

^{pr2}$

在python和java中最有效的方法是什么?它们之间有什么区别(内存效率和速度方面)。基本上我想这样做:read bz2 file

read the xml file element by element

for each element

retrieve id, url, title and text

print_to_file(idurltitleprocess(text))

感谢您提前回答。在

更新1(基于@Andreas的建议):XMLInputFactory factory = XMLInputFactory.newFactory();

XMLStreamReader xmlReader = factory.createXMLStreamReader(in);

xmlReader.nextTag();

if (! xmlReader.getLocalName().equals("doc")) {

xmlReader.nextTag(); }

String id = xmlReader.getAttributeValue(null, "id");

String url = xmlReader.getAttributeValue(null, "url");

String title = xmlReader.getAttributeValue(null, "title");

String content = xmlReader.getElementText();

out.println(id + '\t' + content);

问题是我只得到第一个元素。在

UPDATE2(我最后用regex来做):if (str.startsWith("

id = str.split("id")[1].substring(2).split("\"")[0];

url = str.split("url")[1].substring(2).split("\"")[0];

title = str.split("title")[1].substring(2).split("\"")[0];

}

else if (str.startsWith("

out.println(uniq_id + '\t' + contect);

content ="";

}

else {

content = content + " " + str;

}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值