python爬取新闻,并下载新闻中的图片

爬取篮球新闻,并下载新闻中的图片

背景

今天一觉醒来,打开体育软件,都是安德烈-德拉蒙德加盟湖人的新闻,想起昨天的阿尔德里奇加盟篮网,现在湖人和篮网也是可以掰一掰手腕,一个篮球迷,还是希望看到势均力敌的体育竞技。
突然就想到为啥不搞一个爬取篮球新闻的爬虫,并下载新闻中的图片?
说干就干,冲!!!

网页详情

因为我平时在网上看的话习惯性用的是直播吧,所以今天就挑它下手了。

网址:https://news.zhibo8.cc/nba/2021-03-29/60619d6735e7c.htm

网页内容如下:

https://news.zhibo8.cc/nba/2021-03-29/60619d6735e7c.htm
网友评论
该新闻里面都是国内外网友的评论,因此我们今天的目的就是要把评论输出以及图片全部下载;
老规矩 F12 进入开发者选项,找到我们想要的内容对应的标签;

在这里插入图片描述
通过定位图片,我们可以下载那些图片的链接都是编写在 ‘img’ 中的,

photos = bs.find_all('img')
for i in photos:
    photo = i.get("src")
    photo = 'http:'+ photo #源码中的链接是缺失http:开头的,因此我们要自行加入
    print(photo)

输出结果为:
在这里插入图片描述
接下来我们看看评论所在的表情,
在这里插入图片描述

详细代码

from urllib.request import urlopen
from bs4 import BeautifulSoup
import requests

html = urlopen("https://news.zhibo8.cc/nba/2021-03-29/60619d6735e7c.htm")
bs = BeautifulSoup(html,'html.parser')

# find_all()方法的attrs参数定义一个字典参数来搜索包含特殊属性的tag
ps = bs.find_all(id='signals')
print('\n'.join(p.text for p in ps))

    
a = 1    
photos = bs.find_all('img')
for i in photos:
    photo = i.get("src")
    photo = 'http:'+ photo
    print(photo)
    
    r = requests.get(photo)
    
    path = "E:/" +str(a)+ ".png" #自定义下载路径以及图片名
    #使用with语句可以不用自己手动关闭已经打开的文件流
    #开始写文件,wb代表写二进制文件
    with open(path,"wb") as f:
        f.write(r.content)   #使用 r.content 来查看请求头部
    print("爬取完成!")
    f.close()
    a = a+1

输出结果:

在这里插入图片描述
在这里插入图片描述

接下来我们来看看下载了的图片:

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
有兴趣的朋友可以直接运行一下!
结束,拜拜!

  • 2
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值