初学python,在网上搜了一堆python3爬图的的demo,可能是我的运行方式不对,要么爬不下来,要么不是自己想要的。所以就目前所学,自己整理了一下写了个初级的。大神多指教,谢谢
目标网站摄图网http://699pic.com/photo-148087-6-16.html
# -*- coding: utf-8 -*-
import os
import time
from urllib import request
import requests
from lxml import etree
from urllib.parse import quote
import string
headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36'}
# url = 'http://699pic.com/photo-148087-6-2.html' #目标网站
sel='//div[@class="list"]/a/img/@data-original' #固定规则的css选择器
#'http://699pic.com/photo-148087-6-16.html'
def save_img(sel):
for num in range(1,17): #迭代页数
url='http://699pic.com/photo-148087-6-%s.html' % num
count=0
url_cont = quote(url, safe = string.printable)
img_page = requests.get(url=url_cont, headers=headers).text #网站源码
img_list = etree.HTML(img_page).xpath(sel) #使用xpath中和css选择器匹配任意属性
downloadURL=r'C:/python/py_images/' #保存路径
dir='py_images' #文件夹目录
if not os.path.exists(downloadURL): # 优化,如果存在
os.makedirs(dir)
else:
print('文件已经存在!,z正在重新下载')
for imgSrc in img_list: #迭代每一页的图片
img_url = imgSrc
count=count+1 #计数加1,作为图片名字
img_name= '%s%s.jpg' % (num,count) #图片名字
img_locohost = '%s%s' % (downloadURL,img_name)
with open(img_locohost, 'wb') as f:
f.write(requests.get(url=img_url, headers=headers).content)
time.sleep(1)
print('下载第%s页的第%s张图片' % (num,count))
if __name__ == "__main__":
save_img(sel)
此方法原理是使用css匹配页面的img元素,拿到url地址,然后存本地。只爬了1-16页面的内容,有兴趣的同学,可以尝试其他方法。
此文章仅供学习参考。