python爬取数据豆瓣读书

本文介绍了使用Python的urllib和lxml库爬取豆瓣读书Top250的书籍信息,包括书名、作者、评分和短评。通过XPath定位元素,对获取的数据进行清洗并保存到文件中。爬取过程中,针对无class标签的情况,通过寻找父级元素来确定目标节点。
摘要由CSDN通过智能技术生成

xpath爬取脚本:
from urllib import request
from lxml import etree

base_url=“https://tieba.baidu.com/f?kw=nba
response=request.urlopen(base_url)
html=response.read().decode(‘utf-8’)
htmls=etree.HTML(html)
titles=htmls.xpath(’//div[@class=“threadlist_lz clearfix”]/div/a/@title’)

一开始在父级div没找到,因此再上一级找爷爷辈div,然后加个/div回到父级

//表示在整个html文档寻找,@表示寻找类名,再加一个/div表示它的下一级

print(titles)发现输出的是一个列表

for i in titles:
print(i)

为啥不直接找呢?
因为没有class标签,所以不好找,所以找它的父亲,看套再哪个class里
//div[@class=“pl2”]/a/@title

//p[@class=“pl”]/text()作者
P标签下用text找
//span[@class=“rating_nums”]/text()评分</

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值