最新【Python】完美采集淘宝数据（附完整源代码和视频教程），网易php面试题

如果你也是看准了Python，想自学Python，在这里为大家准备了丰厚的免费学习大礼包，带大家一起学习，给大家剖析Python兼职、就业行情前景的这些事儿。

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

五、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

成为一个Python程序员专家或许需要花费数年时间，但是打下坚实的基础只要几周就可以，如果你按照我提供的学习路线以及资料有意识地去实践，你就有很大可能成功！
最后祝你好运！！！

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

安装selenium模块：

pip install selenium

我采用的是利用selenium控制Chrome浏览器，所以咱们需要下载一个selenium与Chrome的桥梁——Chromedriver插件

下载地址

下载与你当前谷歌浏览器版本最相近的Chromedriver

那么像我的话，下载 即可。

Windows系统需下载32位，其它的自己看着办。点进去下载win32即可。

那么如何让Python与selenium连接起来呢，这里咱们需要配置一个环境变量，就是把Python与selenium处于同一个目录：

到此为止，咱们的环境就搭建好了。

分析（x0）

======

登录篇

谈谈selenium与requests的区别：

selenium：操控网页元素，模拟人去控制浏览器，放弃与底层协议的交互，控制于客户端表面（速度慢）

requests：模拟客户端像服务器发送协议请求，处于底层协议的交互。（速度快）

既然是模拟人去控制浏览器就好说了，想要采集某个网站第一步是做什么？

实例化一款需要被控制的浏览器，然后打开该网址：

from selenium import webdriver

driver = webdriver.Chrome()

driver.get(‘http://www.taobao.com’)

然后在输入框中输入咱们需要查找的商品，再点击搜索即可。

咱们今天重点利用到的为xpath网页元素定位法，通过xpath语法去定位元素的位置，因为程序不是人，人可以肉眼知道哪里是输入框，哪里是按钮。而程序需要咱们去告诉它，给它制定位置。

输入Python

driver.find_element_by_id(‘q’).send_keys(‘python’)

点击搜索

driver.find_element_by_class_name(‘btn-search’).click()

定位的方法很多，我这里两句代码用到的是为id定位和类名定位。

最后在停留在登录界面：

咱们采用扫码登录。

既然是这样子做的话，势必会需要一个时间供给你去登录，有人会采用延迟的方式，但是我不建议这样做。

因为延迟的时间不一定就能保证你刚好可以登录完，多了时间少了时间对咱们都不友好。少了时间还没登录上，程序就跑到别的地方去了报错了。多了时间你也懒得等。

所以在此之前咱们程序加上一行

input(‘扫码完成后请按Enter键’)

这样子做的话，咱们可以人为的控制时间。最终登录完成。

分析（x1）

======

数据的提取

登录上去后可以看到很多的商品信息，咱们要采集的就是…都采集下来吧，什么图片、销量、地址、标题啥的

前面咱们提到了通过元素进行输入框自动输入、按钮点击。那么现在要做的就是通过元素定位去采集咱们想要的数据。

分析（x2）

======

通过元素分析我们可以发现，这里的每一个DIV标签都保存了一个商品的信息，而前面三个class属性略有不同。应该是他们自费的一个广告商品吧，排名指定的那种。

简单分析了一下可以看到第三个商品的图片地址在img标签的src中：

然后第47个商品的信息却不完善：

可以很清楚的发现这个商品的src的图片链接是不正常的，是没有图片的。

这个是为什么呢？还记得我前面文章（某音视频采集）讲到过的动态加载、瀑布流吗？当我们的滑动条往下滑的时候下面的数据才会加载出来，像瀑布一样的流出来。

所以如果我们想要采集到所有的商品图片，那么咱们就需要把这个下滑条往下面拉动 ，如何利用selenium控制这个下滑条往下面拉动呢?

for x in range(1, 11, 2):

time.sleep(0.5)

j = x/10

js = ‘document.documentElement.scrollTop = document.documentElement.scrollHeight * %f’ % j

driver.execute_script(js)

每停顿0.5S的时间，拉动下滑条的十分之三的位置。

登录成功后按一下enter键，代码就会跳到下拉滑块的位置，执行下拉。

分析（x3）

======

数据都加载出来了后，咱们只管采集就好啦。采集的规则利用的是xpath定位法，这里我不做过多讲解。看我代码然后自己分析一下。

lis = driver.find_elements_by_xpath(‘//div[@class=“items”]/div[@class="item J_MouserOnverReq "]’)

for li in lis:

info = li.find_element_by_xpath(‘.//div[@class=“row row-2 title”]’).text

price = li.find_element_by_xpath(‘.//a[@class=“J_ClickStat”]’).get_attribute(‘trace-price’) + ‘元’

deal = li.find_element_by_xpath(‘.//div[@class=“deal-cnt”]’).text

image = li.find_element_by_xpath(‘.//div[@class=“pic”]/a/img’).get_attribute(‘src’)

name = li.find_element_by_xpath(‘.//div[@class=“shop”]/a/span[2]’).text

position = li.find_element_by_xpath(‘.//div[@class=“row row-3 g-clearfix”]/div[@class=“location”]’).text

print(info + ‘|’ + price + ‘|’ + deal + ‘|’ + name + ‘|’ + image + ‘|’ + position)

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！