python解析html数据,获取到的链接是以/或 ./ 或 ../ 开头的相对链接,不是以http开头的,需要补全

一、实现的目标

         在使用爬虫获取网页html数据时,解析到的链接是/或./ 开头的相对链接,不是以http开头的链接,如:/picture/0/cca65350643c441e80d390ded3975db0.png  。此时需要完成对该链接的补全,以得到正确的链接。此外,我们需要将解析到的html数据保存到起来,将来需要展示在网页端,如果链接不完整,则html中的图片、附件等链接将无法正常显示出来,比如一段html数据:

<p style="text-indent:2em;" align="center">&#13;
	<img alt="" src="/attached/image/20170123/20170123085007_663.jpg" width="800" height="533"/>&#13;
</p>&#13;
<p style="text-indent:2em;" align="center">&#13;
	<img alt="" src="/attached/image/20170123/20170123085027_727.jpg" width="800" height="533"/>&#13;
</p>&#13;
<p style="text-indent:2em;" align="center">&#13;
	<img alt=
  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
可以使用 requests 库和 BeautifulSoup 库来爬取网页,并下载其中的图片。以下是示例代码: ```python import requests from bs4 import BeautifulSoup import os # 设置请求头部,模拟浏览器请求 headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} # 目标网页 URL url = 'https://www.chzc.edu.cn/info/1025/92906.htm' # 发送 GET 请求 r = requests.get(url, headers=headers) # 解析网页 soup = BeautifulSoup(r.text, 'html.parser') # 获取所有图片链接 img_urls = [] for img in soup.find_all('img'): img_url = img.get('src') if img_url and img_url.startswith('/'): img_url = 'https://www.chzc.edu.cn' + img_url img_urls.append(img_url) # 创建保存图片的目录 if not os.path.exists('imgs'): os.mkdir('imgs') # 下载图片 for i, img_url in enumerate(img_urls): try: img_data = requests.get(img_url, headers=headers).content with open(f'imgs/img_{i}.jpg', 'wb') as f: f.write(img_data) print(f'Download {img_url} success!') except: print(f'Download {img_url} failed!') ``` 代码中,首先使用 requests 库发送 GET 请求获取网页内容,然后使用 BeautifulSoup 库解析网页,获取其中的图片链接。接着,创建一个名为 "imgs" 的目录,用于保存下载的图片。最后,遍历图片链接列表,使用 requests 库下载图片并保存到指定目录下。 需要注意的是,为了避免因为网站对于频繁访问的限制,最好在请求头部中加入一些浏览器相关的头信息。此外,还需要处理图片链接中以 "/" 开头相对路径,将其转化为绝对路径。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

阳光宅男xxb

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值