python的爬虫(3)抓取全部链接+标题

前言:
先抓取一页数据-》查看信息之所以查看更多是因为分页-》所以可以先抓取一页数据,再循环页码就可以得到全部数据

被抓地址:http://jhsjk.people.cn/result/?area=402
分了3页

在这里插入图片描述
抓取1页数据所有的标题
在这里插入图片描述
在这里插入图片描述

import requests
from lxml import etree
# 页码的分页
r=requests.get('http://jhsjk.people.cn/result/?area=402').content

topic=etree.HTML(r)
title=topic.xpath('//div/ul/li/a/text()')
print(title)

``
==========翻页
分析
![在这里插入图片描述](https://img-blog.csdnimg.cn/20190528174909449.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTY2NTYzNw==,size_16,color_FFFFFF,t_70)

翻页
![在这里插入图片描述](https://img-blog.csdnimg.cn/20190528175121653.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTY2NTYzNw==,size_16,color_FFFFFF,t_70)
运用到代码中

![在这里插入图片描述](https://img-blog.csdnimg.cn/20190528175527736.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MTY2NTYzNw==,size_16,color_FFFFFF,t_70)

import requests
from lxml import etree

for a in range(1,4):
m=‘http://jhsjk.people.cn/result/’+str(a)+’?area=402
l=requests.get(m).content
topic=etree.HTML(l)

title=topic.xpath('//div/ul/li/a/text()')
for x in title:
     print(x)

  • 0
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值