python学习总结(一);爬取今日头条图片

本文是根据崔庆才老师的《网络爬虫开发实战》学习的总结,主要讲述了如何分析ajax请求,构建request url,应对网站代码变动调整爬取策略,使用正则表达式筛选网址,处理转义字符,以及通过os模块为图片批量添加后缀名的过程。
摘要由CSDN通过智能技术生成

通过崔庆才老师的《网络爬虫开发实战》,现将自己学习要点记录如下:

1.分析ajax。利用params和urlencode,构建request url。

params = {
            'offset': offset,
            'format': 'json',
            'keyword': '电影',
            'autoload': 'true',
            'count': '20',
            'cur_tab': '3',
            'from': 'gallery'}
url = 'https://www.toutiao.com/search_content/?' + urlencode(params)


2.由于网站代码一改,删除了image_detail,无法一次性爬取图片。爬取思路改为分两步爬取,先在搜索页遍历每个图集的url,再在每个图集的url下爬取每张图片。


3.正则表达式,网址的筛选,转义字符的剔除。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值