/*
* Copyright (c) 2014, 烟台大学计算机学院
* All rights reserved.
* 文件名称:test.cpp
* 作 者:李晓凯
* 完成日期:2019年 8 月 19 日
* 版 本 号:v1.0
*
* 问题描述:
* 输入描述:
* 程序输出:
*/
用Python写一个爬虫,抓取网络上的图片。
在做的时候要把user-agent字段改为某些主流浏览器的本字段内容,来实现伪装成浏览器的效果,只需在浏览器任意页面右击—>检查可以查看到:
通过add_header('user-agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36')方法添加。
然后找到图片的地址:
和页数:
完整代码如下:
#爬虫爬取网址https://www.mzitu.com/zipai/上的图片
import urllib.request
import os
def url_open(url):
req = urllib.request.Request(url)
#添加头部,伪装Goole浏览器
req.add_header('user-agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 Safari/537.36')
response = urllib.request.urlopen(req)
html = response.read()
return html
#得到页数
def get_page(url):
html = url_open(url).decode('utf-8')
a = html.find('page-numbers current') + 22 #+22是从字符‘p’到页数共偏移22个字符,下同
b = html.find('<',a)
return html[a:b]
#得到图片地址
def find_imgs(url):
html = url_open(url).decode('utf-8')
img_addrs = []
a = html.find('data-original=')
while a != -1:
b = html.find('.jpg',a,a+255)
if b != -1:
img_addrs.append(html[a+15:b+4]) #+15,+4同样是偏移字符的个数
else:
b = a + 22
a = html.find('data-original=',b)
#打印图片地址
#for each in img_addrs:
# print(each)
return img_addrs
#保存图片
def save_imgs(folder,img_addrs):
for each in img_addrs:
filename = each.split('/')[-1]
with open(filename,'wb') as f:
img = url_open(each)
f.write(img)
def download_mm_img(folder,pages):
os.mkdir(folder)
os.chdir(folder)
url = "https://www.mzitu.com/zipai/"
page_num = int(get_page(url))
for i in range(pages):
page_num -=i
page_url = url + 'comment-page-' + str(page_num) + '/#comments'
img_addrs = find_imgs(page_url)
save_imgs(folder,img_addrs)
print("抓取成功!")
if __name__ == '__main__':
pages_num = input("请输入要抓取的图片页数:")
pages_num = int(pages_num)
file_name = input("请输入要保存的文件名称:")
download_mm_img(file_name,pages_num)
运行结果如下:
这是抓取的部分图片: