目标站点
百度图片使用关键字搜索 小姐姐私房照
https://image.baidu.com/
开发环境
-
系统：Windows10 64位
-
Python版本：Python3.6.5(Python3以上版本即可)
-
IDE：Pycharm（非必须，其实你完全可以记事本写代码）
-
第三方库：requests、jsonpath
效果预览
代码爬取效果
正式教程
一、第三方库安装
在确保你正确安装了Python解释器之后，我们还需要安装几个第三方库，命令如下**[在终端中安装即可]**：
HTTP请求库：
pip3 install requests
JSON数据解析库：
pip3 install jsonpath
二、爬虫的基本套路
- 不管是爬取哪类网站，在爬虫中基本都遵循以下的基本套路：
请求数据 → 获取响应内容 → 解析内容 → 保存数据
- 当然，以上步骤是代码的编写思路，实际操作中应该还要添加一个前置步骤，所以完整流程如下：
分析目标站点 → 请求网站获取数据 → 解析内容 → 保存数据
- 分析目标站点
快速的分析目标站点就很容易发现百度图库的图片资源是通过AJAX加载的，所以我们要请求的链接并非浏览器地址栏链接，而是ajax加载的数据包的资源路径，如图：
那么问题来了，如何获取到这些数据包的地址？其实很简单，如图所示：
- 请求网站获取数据
编写代码请求资源，这里有一点需要注意：请求头必须携带，否则有可能请求失败导致报错。
import requests # 导包
构建请求头，把爬虫程序伪装成正常的浏览器用户
headers = {
‘sec-fetch-dest’: ‘image’,
‘Host’: ‘image.baidu.com’,
‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36 Edg/89.0.774.50’,
}
资源包的url链接
url = ‘https://image.baidu.com/search/acjson?tn=resultjson_com&logid=10913526997707526921&ipn=rj&ct=201326592&is=&fp=result&queryWord=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=&hd=&latest=©right=&word=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&expermode=&force=&pn=210&rn=30&gsm=d2&1616553658252=’
构建请求
response = requests.get(url,headers=headers)
查看状态码
print(response.status_code)
获取原始数据
response.json()
做了那么多年开发，自学了很多门编程语言，我很明白学习资源对于学一门新语言的重要性，这些年也收藏了不少的Python干货，对我来说这些东西确实已经用不到了，但对于准备自学Python的人来说，或许它就是一个宝藏，可以给你省去很多的时间和精力。
别在网上瞎学了，我最近也做了一些资源的更新，只要你是我的粉丝，这期福利你都可拿走。
我先来介绍一下这些东西怎么用，文末抱走。
（1）Python所有方向的学习路线（新版）
这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。
最近我才对这些路线做了一下新的更新，知识体系更全面了。
（2）Python学习视频
包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。
（3）100多个练手项目
我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。
（4）200多本电子书
这些年我也收藏了很多电子书，大概200多本，有时候带实体书不方便的话，我就会去打开电子书看看，书籍可不一定比视频教程差，尤其是权威的技术书籍。
基本上主流的和经典的都有，这里我就不放图了，版权问题，个人看看是没有问题的。
（5）Python知识点汇总
知识点汇总有点像学习路线，但与学习路线不同的点就在于，知识点汇总更为细致，里面包含了对具体知识点的简单说明，而我们的学习路线则更为抽象和简单，只是为了方便大家只是某个领域你应该学习哪些技术栈。
（6）其他资料
还有其他的一些东西，比如说我自己出的Python入门图文类教程，没有电脑的时候用手机也可以学习知识，学会了理论之后再去敲代码实践验证，还有Python中文版的库资料、MySQL和HTML标签大全等等，这些都是可以送给粉丝们的东西。
这些都不是什么非常值钱的东西，但对于没有资源或者资源不是很好的学习者来说确实很不错，你要是用得到的话都可以直接抱走，关注过我的人都知道，这些都是可以拿到的。
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
1万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
