爬取彼岸netbian图片

**问题一:**只能读出部分信息
刚开始爬取只能爬出来前两张图片的信息,从第三张就开始报错
在这里插入图片描述
原因是这个网址的第三张图片是一个有er围马的图片
在这里插入图片描述
虽然html里面alt 和 src 看着正常但是和别的图片的读出来却不同
在这里就用try … except…来处理,跳过第三张。
**问题二:**读取的中文用utf-8仍然乱码

在这里插入图片描述
按照网上通用的改法发现它不报错,但是打印不出结果了

此时我改动了utf-8为gbk
res.encoding = ‘gbk’
然后就可以了
在这里插入图片描述
接下来将爬取的数据存入一个文件夹
完整代码如下:

import requests
from lxml import etree
import os
if __name__ == '__main__':
    url = 'http://www.netbian.com/fengjing/'
    headers = {
        'User-Agent': 'Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.107 Mobile Safari/537.36'}
    res = requests.get(url, headers=headers)
    res.encoding = 'gbk'
    html = res.text
    tree = etree.HTML(html)
    div = tree.xpath('///div[@class="list"]/ul/li')
    if not os.path.exists('./pictureLib'):
        os.makedirs('./pictureLib')
    for li in div:
        try:
            img_alt = li.xpath('./a/img/@alt')[0]+'.jpg'
            img_src = li.xpath('./a/img/@src')[0]
            #print(img_alt, img_src)
        except:
            pass
        img_data=requests.get(url=img_src,headers=headers).content
        img_path='pictureLib/'+img_alt
        with open(img_path,'wb') as f:
            f.write(img_data)
            print(img_alt,'下载成功!!!')



最终结果:
在这里插入图片描述
在这里插入图片描述
已经将网上的图片爬取并存入我的电脑E盘下了

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值