同事半个月都没搞懂selenium，我半个小时就给他整明白！顺手秀了一波爬淘宝的操作

最新推荐文章于 2024-03-16 18:58:51 发布

网安攻城狮-小李

最新推荐文章于 2024-03-16 18:58:51 发布

阅读量1.6w

点赞数 2k

分类专栏： Python 文章标签： python 爬虫编程语言程序员 selenium

本文链接：https://blog.csdn.net/wuli1024/article/details/118417385

版权

Python 专栏收录该内容

6 篇文章 4 订阅

订阅专栏

因为工作需要，同事刚开始学python，学到selenium这个工具半个月都没整明白，因为这个令他头秃了半个月，最后找到我给他解答。

所以我用一个淘宝爬虫实例给他解释了一遍，不用一个小时他就搞懂了。初学者也看得懂的爬虫项目。

在这里插入图片描述

在爬虫开始之前我们需要了解一些概念，本次爬虫会用到 selenium。

什么是selenium？

selenium是网页自动化测试工具，可以自动化的操作浏览器。如果需要操作哪个浏览器需要安装对应的driver，比如你需要通过selenium操作chrome，那必须安装chromedriver，而且版本与chrome保持一致。

了解完之后，安装selenium：

pip install selenium -i https://pypi.tuna.tsinghua.edu.cn/simple

一、导入模块

首先我们先导入模块

from selenium import webdriver

后续我们还会用到其他的模块，我先把它全部放出来：

在这里插入图片描述

二、浏览器初始化

然后就是浏览器的初始化

browser = webdriver.Chrome()

可以用很多浏览器，android、blackberry、ie等等。想用其他的浏览器，下载对应的浏览器驱动就可以了。

在这里插入图片描述

因为我这边只安装了谷歌浏览器的驱动，所以用的是chrome谷歌，驱动可以自己去下载。

chrome谷歌浏览器对应的driver：

http://npm.taobao.org/mirrors/chromedriver/

三、登录获取页面

首先要解决的是登录问题，登录时不要直接输入账号登录，因为淘宝的反爬特别严重，如果它检测到你是一个爬虫，就不允许登录，淘宝在登录这一块的措施是很严格的。

所以我用了另一种登录方法，支付宝扫码登录，请求到支付宝扫码登录页面的网址。

def loginTB():
    browser.get(
        'https://auth.alipay.com/login/index.htm?loginScene=7&goto=https%3A%2F%2Fauth.alipay.com%2Flogin%2Ftaobao_trust_login.htm%3Ftarget%3Dhttps%253A%252F%252Flogin.taobao.com%252Fmember%252Falipay_sign_dispatcher.jhtml%253Ftg%253Dhttps%25253A%25252F%25252Fwww.taobao.com%25252F&params=VFBMX3JlZGlyZWN0X3VybD1odHRwcyUzQSUyRiUyRnd3dy50YW9iYW8uY29tJTJG')

跳转到支付宝扫码登录界面。

在这里插入图片描述

我这边设置了一个等待时间，180秒后搜索框出现，其实不会等待180秒，是一个显示等待，只要元素出现，就不会在等待了。

再查找搜索框并输入关键字搜索。

   # 设置显示等待  等待搜索框出现
    wait = WebDriverWait(browser, 180)
    wait.until(EC.presence_of_element_located((By.ID, 'q')))

    # 查找搜索框，输入搜索关键字并点击搜索
    text_input = browser.find_element_by_id('q')
    text_input.send_keys('美食')
    btn = browser.find_element_by_xpath('//*[@id="J_TSearchForm"]/div[1]/button')
    btn.click()

四、解析数据

获取网页之后，再来解析数据，将所需要的商品数据爬到，这里用的是lxml解析库，XPath选取子节点直接解析。
在这里插入图片描述

五、爬取页面

在搜索框搜索之后会出现所需要的商品页面详情，但是不只是爬取一页，是要不断的下一页爬取多页的商品信息。这里写了一个死循环，一直爬到商品页没有了

def loop_get_data():
    page_index = 1
    while True:
        print("===================正在抓取第{}页===================".format(page_index))
        print("当前页面URL：" + browser.current_url)
        # 解析数据
        parse_html(browser.page_source)

        # 设置显示等待  等待下一页按钮
        wait = WebDriverWait(browser, 60)
        wait.until(EC.presence_of_element_located((By.XPATH, '//a[@class="J_Ajax num icon-tag"]')))
        time.sleep(1)
        try:
            # 通过动作链，滚动到下一页按钮元素处
            write = browser.find_element_by_xpath('//li[@class="item next"]')
            ActionChains(browser).move_to_element(write).perform()
        except NoSuchElementException as e:
            print("爬取完毕，不存在下一页数据！")
            print(e)
            sys.exit(0)
        time.sleep(0.2)
        # 点击下一页
        a_href = browser.find_element_by_xpath('//li[@class="item next"]')
        a_href.click()
        page_index += 1