hadoop学习过程-2013.08.30.1--按照网页内容搜索出网页01--确定网页来源

使用larbin抓取网页已经可以了,可是抓取到的大量网页,其有意义的文字内容不一定是在网页中同一个位置出现的,比如:

有网页A、B、C、D,A中主要内容在一个div下,B中主要内容在一个文本框中,C中主要内容分散在table中,D中主要内容也在一个div中,但是A中div与D中div并不是html结构树中的同一个节点。

所以先不抓取真实网站网页,而是用现成的、结构统一的网页,即某省政策法规文件集合。

下一步是使用IKAnalyzer将政策法规html文件中的中文内容切词。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值