一、Python所有方向的学习路线
Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。
二、学习软件
工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。
三、入门学习视频
我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
本次爬取是调用淘宝pc端搜索接口，对返回的数据进行提取、然后保存为excel文件！
看似一个简单的功能却包含了很多问题，我们来一点一点往下看吧！
三、爬取单页数据
开始写一个爬虫项目我们都需要量化后再分步，而一般第一步便是先爬取一页试试！
1.查找加载数据URL
我们在网页中打开淘宝网，然后登录，打开chrome的调试窗口，点击network，然后勾选上Preserve log，在搜索框中输入你想要搜索的商品名称
这是第一页的请求，我们查看了数据发现：返回的商品信息数据插入到了网页里面，而不是直接返回的纯json数据！
2. 是否有返回纯json数据接口？
然后小编就好奇有没有返回纯json的数据接口呢？于是我就点了下一页（也就是第二页）
请求第二页后小编发现返回的数据竟然是纯json，然后比较两次请求url，找到只返回json数据的参数！
通过比较我们发现搜索请求url中如果带ajax=true参数的话就直接返回json数据，那我们是不是可以直接模拟直接请求json数据！
所以小编就直接使用第二页的请求参数去请求数据（也就是直接请求json数据），但是请求第一页就出现错误：
直接返回一个链接而 不是json数据，这个链接是什么鬼？点一下。。。
铛铛铛，滑块出现，有同学会问：**用requests能搞定淘宝滑块吗？**小编咨询过几个爬虫大佬，滑块的原理是收集响应时间，拖拽速度，时间，位置，轨迹，重试次数等然后判断是否是人工滑动。而且还经常变算法，所以猪哥选择放弃这条路！
3.使用请求网页接口
所以我们选择类似第一页（请求url中不带ajax=true参数，返回整个网页形式）的请求接口，然后再把数据提取出来！
这样我们就可以爬取到淘宝的网页信息了
四、提取商品属性
爬到网页之后，我们要做的就是提取数据，这里先从网页提取json数据，然后解析json获取想要的属性。
1.提取网页中商品json数据
既然我们选择了请求整个网页，我们就需要了解数据内嵌在网页的哪个位置，该怎么提取出来。
经过小编搜索比较发现，返回网页中的js参数：g_page_config就是我们要的商品信息，而且也是json数据格式！
然后我们写一个正则就可以将数据提取出来了！
goods_match = re.search(r’g_page_config = (.*?)}};', response.text)
2.获取商品价格等信息
要想提取json数据，就要了解返回json数据的结构，我们可以将数据复制到一些json插件或在线解析
了解json数据结构之后，我们就可以写一个方法去提取我们想要的属性了
五、保存为excel
操作excel有很多库，网上有人专门针对excel操作库做了对比与测评感兴趣可以看看：https://dwz.cn/M6D8AQnq
小编选择使用pandas库来操作excel，原因是pandas比较操作方便且是比较常用数据分析库！
1.安装库
pandas库操作excel其实是依赖其他的一些库，所以我们需要安装多个库
pip install xlrd
pip install openpyxl
pip install numpy
pip install pandas
2.保存excel
这里有点坑的是pandas操作excel没有追加模式，只能先读取数据后使用append追加再写入excel！
查看效果
六、批量
一次爬取的整个流程（爬取、数据提取、保存）完成之后，我们就可以批量循环调用了。
这里设置的超时秒数是猪哥实践出来的，从3s、5s到10s以上，太频繁容易出现验证码！
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
1449
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
