先看一下效果:
这个爬虫的功能是将京东上的手机图片爬取并保存下来,其思路和我上一篇博客爬取豆瓣大致相同,只是代码实现不太一样。主要分为三步:获取网页信息, 解析数据, 保存数据。只是这一次保存的是图片 jpg 格式,保存位置在D盘,上一篇是将文本信息保存到Excel。这一次需要用到 urllib.request 模块中的urlretrieve 函数进行本地保存,而保存数据到 Excel 中 需要导入 xlwt 模块。废话不多说,上代码:
导入模块:
from urllib import request, error
from bs4 import BeautifulSoup
import re
获取网页信息
def askurl(url):
try:
req = request.Request(url)
req.add_header('User-Agent', 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36')
respond = request.urlopen(req)
html &