select最简单的爬虫代码:郑州地铁新闻前50页

作为python网络爬虫新手,学习爬虫已将近一个月,直到今天才感觉踏入临门一脚,综合以往自己学到的知识,编写了一个爬取郑州地铁新闻前50页的代码,用以交流学习,废话不多说,直接上思路和代码:
获取新闻页面链接:
第一页:http://www.zzmetro.cn/page/id/13.html?page=1
第二页:http://www.zzmetro.cn/page/id/13.html?page=1
…以此类推
#爬取郑州地铁新闻,前50页

from bs4 import BeautifulSoup
def get_page(url):
    headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.116 Safari/537.36'}
    response = requests.get(url, headers=headers)
    if response.status_code == 200:
        return response.text
    return None
for i in range(0,50):#此页数为1-50页
    url = "http://www.zzmetro.cn/page/id/13.html?page=" + str(i)
    html = get_page(url)
    soup = BeautifulSoup(html, 'lxml')
    print(soup.title.get_text())
    print("第"+str(i+1)+"页新闻标题——")

    k=0#设置每页新闻标题序号
    for h in soup.select('h3'):
        print('\n'+str(k+1)+'.'+h.get_text())
        k=k+1
    print('\n\n')on

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值