Python双十一特辑： 批量采集某JD商品数据，咱花理智的钱~

嗨害大家好鸭！我是小熊猫❤

双十一快到啦~

咱就是说 理智消费~

准备工作【完整代码】

驱动安装

实现案例之前，我们要先安装一个谷歌驱动，
因为我们是使用 selenium 操控谷歌驱动，
然后操控浏览器实现自动操作的，
模拟人的行为去操作浏览器。

以谷歌浏览器为例，
打开浏览器看下我们自己的版本，
然后下载跟自己浏览器版本一样或者最相近的版本，
下载后解压一下，
把解压好的插件放到我们的python环境里面，
或者和代码放到一起也可以。

模块使用与介绍

selenium pip install selenium ，
直接输入selenium的话是默认安装最新的，
selenium后面加上版本号就是安装对应的的版本；
csv 内置模块，不需要安装，
把数据保存到Excel表格用的；
time 内置模块，不需要安装，
时间模块，主要用于延时等待；

流程解析

我们访问一个网站，要输入一个网址，所以代码也是这么写的。

首先导入模块

from selenium import webdriver

文件名或者包名不要命名为selenium，会导致无法导入。
webdriver可以认为是浏览器的驱动器，要驱动浏览器必须用到webdriver，支持多种浏览器。

实例化浏览器对象 ，我这里用的是谷歌，
建议大家用谷歌，方便一点。

driver = webdriver.Chrome()

我们用get访问一个网址，自动打开网址。

driver.get('https://www.jd.com/')

运行一下

打开网址后，以买口红为例。

我们首先要通过你想购买的商品关键字来搜索得到商品信息，
用搜索结果去获取信息。

那我们也要写一个输入，空白处点击右键，选择检查。

选择element 元素面板

鼠标点击左边的箭头按钮，去点击搜索框，
它就会直接定位到搜索标签。

在标签上点击右键，选择copy，选择copy selector

如果你是xpath ，就copy它的xpath 。

然后把我们想要搜索的内容写出来

driver.find_element_by_css_selector('#key').send_keys('口红')

再运行的时候，
它就会自动打开浏览器进入目标网址搜索口红。

同样的方法，找到搜索按钮进行点击。

driver.find_element_by_css_selector('.button').click()

再运行就会自动点击搜索了

页面搜索出来了，那么咱们正常浏览网页是要下拉网页对吧，
咱们让它自动下拉就好了。

先导入time模块

import time

执行页面滚动的操作

def drop_down():
    """执行页面滚动的操作"""  # javascript
    for x in range(1, 12, 2):  # for循环下拉次数，取1 3 5 7 9 11， 在你不断的下拉过程中, 页面高度也会变的；
        time.sleep(1)
        j = x / 9  # 1/9  3/9  5/9  9/9
        # document.documentElement.scrollTop  指定滚动条的位置
        # document.documentElement.scrollHeight 获取浏览器页面的最大高度
        js = 'document.documentElement.scrollTop = document.documentElement.scrollHeight * %f' % j
        driver.execute_script(js)