xpath text用法

#coding=utf-8
from gevent import monkey,pool
monkey.patch_all()
import os
import gevent
from lxml import etree
import urllib2
import time
jobs=[]
links=[]
p=pool.Pool(30)
urls=[]
f=open('d:\\nlx_author.txt','w')

'''
def get_links(url):
    r=urllib2.urlopen(url).read()
    html=etree.HTML(r)
    results=html.xpath('//td[@id="title"]//a')
    k+=1
    for txt in results:
        f.write(txt.text.encode('utf-8')+'\n')
'''

def get_links(url):
    r=urllib2.urlopen(url).read()
    html=etree.HTML(r)
    result=html.xpath('//div[@class="viewbox"]//p//text()')   #重点理解
    for x in result:
        f.write(x.encode('utf8'))
    f.write('\n\n')
    #f.write(result[0].xpath('string(.)').encode('utf-8'))

root_url='http://www.nlx.gov.cn/inter/'

for i in range(2,3):  #测试20页,实际有965页
    ur='http://www.nlx.gov.cn/inter/?tid=&pages=%d'%i
    html=urllib2.urlopen(ur).read()
    txt=etree.HTML(html)
    results=txt.xpath('//td[@id="title"]//a/@href')
    for r in results:
        urls.append(root_url+r)
print time.strftime('%H:%M:%S')
for url in urls:
    jobs.append(p.spawn(get_links,url))
gevent.joinall(jobs)
print time.strftime('%H:%M:%S')
f.close()

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值