python 爬虫二

python 淘宝网站的应用

操作步骤

（1）选择需要的网站

URL = 'https://www.taobao.com/'

(2) 创建设置对象,然后创建浏览器对象

option = webdriver.ChromeOptions()
# 不显示图片，加快执行速度
option.add_argument('blink-setting=imagesEnabled=False')
b = webdriver.Chrome('chromedriver.exe', options=option)
b.get(URL)

（3）找到登录按钮
鼠标右键点击空白处，点击检查出现如下代码。分别找到登录，账号，密码所在的代码段

# 执行点击登录选项
b.find_element_by_class_name('h').click()
username = input('输入用户名')
password = getpass.getpass('输入密码：')
# 执行在账号，密码框输入账号密码
b.find_element_by_id('fm-login-id').send_keys(username)
b.find_element_by_id('fm-login-password').send_keys(password)
# 执行点击登录的按钮
b.find_element_by_class_name('fm-button').click()

在运行时如果出现如下错误：
1：

DevTools listening on ws://127.0.0.1:53188/devtools/browser/6888d27e-e097-4ae5-b890-a56fe12e0f60
[9728:8088:0820/110205.583:ERROR:device_event_log_impl.cc(214)] [11:02:05.583] USB: usb_device_handle_win.cc:1048 Failed to read descriptor from node connection: 连到
系统上的设备没有发挥作用。 (0x1F)

这时候需要在b = webdriver.Chrome('chromedriver.exe', options=option)前面添加

# 防止登录失败
option.add_experimental_option("excludeSwitches", ['enable-automation', 'enable-logging'])

2：推拖动滑块出现错误
在b.get(URL)前面添加

# 防止selenium被监测
# 先修改js，再加载js
b.execute_cdp_cmd(
    "Page.addScriptToEvaluateOnNewDocument",
    {
        "source": "Object.defineProperty(navigator, 'webdriver', {get: () => undefined})"
    }
)

(4)搜索商品

# 搜索商品
b.find_element_by_id('q').send_keys('桃子')
# 回车
b.find_element_by_id('q').send_keys(Keys.ENTER)

在运行时可能会出现如下错误：

selenium.common.exceptions.NoSuchElementException: Message: no such element: Unable to locate element: {"method":"css selector","selector":"[id="q"]"}

可以在前面添加一个隐式等待

# 隐式等待
b.implicitly_wait(30)