观前提醒,本期内容过于刺激,请未成年人在家长陪同下观看。
事情是这样子儿的
昨天晚上我在某网站上看韩剧,突然之间,播放窗口就弹出了一个这样的广告
好家伙,这广告,
绷着好奇心,我点进去看了看,我只是好奇,这是一个什么样的秘书
点进去的那一瞬间,小心脏无比的激动,经过链接的不断跳转
我来到了一个……小姐姐私房照网站!
算了,将就一下
将就一下:把图片扒下来
爬取目标:
网址:https://www.jdlingyu.com/tag/%e4%b8%9d%e8%a2%9c%e8%af%b1%e6%83%91
工具使用
开发环境:win10、python3.8 开发工具:pycharm、Chrome 工具包:requests,lxml
项目思路解析
选取你对应的图片分类
根据分类信息提取到没有图片的超链接,提取出A标签的跳转地址以及图片的标题名字
进入详情页面,xpath提取详情页面所有的图片地址:
将就一下:保存图片到本地
import requests
from lxml import etree
headers = {
"user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.88 Safari/537.36"
}
def get_url(start_url):
response = requests.get(start_url, headers=headers).text
data = etree.HTML(response)
new_url = data.xpath('//div[@class="post-module-thumb"]/a/@href')
for url in new_url:
yield url
def get_img(url):
response = requests.get(url, headers=headers).text
img_data = etree.HTML(response)
img_url = img_data.xpath('//div[@class="entry-content"]/img/@src')
for img_url in img_url:
name = img_url.split("/")[-2] + img_url.split("/")[-1]
result = requests.get(img_url).content
with open("图片/" + name, "wb")as f:
f.write(result)
print("正在下载", name)
if __name__ == '__main__':
for i in range(1, 3):
start_url = "https://www.jdlingyu.com/tuji/hentai/gctt/page/{}".format(i)
html_url = get_url(start_url)
for url in html_url:
get_img(url)
好了,图片下载完成,我也该关电脑睡觉了。留着给我的00后小徒弟看吧。
寄语
以上就是全部的内容了,告诫大家千万不要乱点网站上的垃圾广告链接
那么,祝大家在学习的路上,学有所成。
最后送给大家一句话:“独立思考,实事求是,锲而不舍,以勤补拙
互联网是一个不断有新的技术衍生的领域,框架,工具等都是在不断的发展中变革,所以只有保持不断的学习才可以让自己不断的进步