Python之selenium,使用webdriver模拟登录网站(含验证码)

1059 篇文章 25 订阅
716 篇文章 2 订阅

一、前言

前段时间做了一个小项目,其中有一段需要自动获取网站后台的数据,但是这个网站没有任何提供给开发者的API,所以只能靠自己去探索。

起初想着用发送请求的方式去模拟登陆,获取cookies,从而再获取网站后台数据,但是因为自己太菜了一些原因,放弃了这个方法。

后来想到使用webdriver调用浏览器来模拟登陆,发现操作起来简单很多,而且可以达到同样的效果,于是便有了这篇文章。

二、准备工作

需要下载和安装一些东西,可以去官方教程中进行了解。 学习本篇文章的内容只需要安装好selenium库以及下载好浏览器对应版本的驱动即可。

三、模拟登陆网站

1. 加载驱动和配置

这里我使用的是默认配置,如果有特殊需求,可以参照官方文档进行学习

browser = webdriver.Chrome(executable_path='你驱动的本地路径', options=webdriver.ChromeOptions())

2. 打开网站

browser.get(要打开的网站)

不出意外,此时会自动拉起你的浏览器并进入到你想进入的网站了,如果你的浏览器同时还多出来了一个像下图这样的页面:

不用管,因为这对你将要进行的操作基本没有影响。

3. 寻找元素并填入账号密码

常规写法如下

browser.find_element_by_name('username').send_keys('你的账号')  # 填入用户名 
browser.find_element_by_name('password').send_keys('你的密码')  # 填入密码

或者你也可以这样,效果和上面一样

username = browser.find_element_by_name('username')  # 寻找账号输入框
username.send_keys('你的账号')  # 填入用户名 
password = browser.find_element_by_name('password')  # 寻找密码输入框
password.send_keys('你的密码')  # 填入密码

上面寻找元素的方法中填入的username和password是根据页面中的元素name进行寻找的,需要根据实际情况更改,如果输入框没有name属性,那么也可以使用id或者xpath进行寻找。

browser.find_element_by_id()
browser.find_element_by_xpath()

当然前提是你要先手动去网站中获取输入框的这些属性,比如说百度,按F12进行元素审查,然后按Ctrl+shift+C选择你要找的元素,如下图:

然后去查看该元素有没有属性id或者name,如果有的话可以直接用,如果没有的话就单击鼠标右键,然后选择cope,选择xPath,然后把你复制到的xPath放到代码里就好了。

4. 填写验证码

一般的网站登录时都会有验证码,而验证码的识别一般是比较麻烦的一件事情(对于新手来说),这里分享一下我的经验。

首先需要自己去找一个打码平台(直接百度搜打码平台,然后挑一个合适的就好了),然后去阅读它的接入文档,使用它的API进行识别网站的验证码,一般需要给它传入一个以base64编码的字符串,代表待识别图片,然后它会给你返回一些信息,里面会包括识别结果。

回到我们的程序,找到验证码图片的元素,有些验证码可以直接获取到base64形式的图片链接,这时候直接传给打码平台进行识别就可以了,代码如下:

image = browser.find_element_by_xpath('//*[@id="root"]/div/div/div/div/div[2]/div[3]/div[1]/div[2]/img')
image = image.get_attribute('src')  # 获取当前验证码图片链接
imageCaptchaValue = readImage(image)  # 这里的readImage是用来给打码平台发送请求的方法,需要根据自己的实际情况去实现这个方法
captchaValue = browser.find_element_by_xpath('//*[@id="root"]/div/div/div/div/div[2]/div[3]/div[1]/input')  # 验证码输入框
captchaValue.send_keys(imageCaptchaValue)  # 填入验证码

如果你要登录的网站的验证码不是base64形式的链接,甚至你单击右键在新窗口中打开图片时显示的又是另一张图片,那么很可能就需要用到下面的方法了。

  1. 调用screenshot()方法对验证码进行截图操作,并对图片进行保存
  2. 将保存的图片以二进制的方式打开,并转为base64编码
  3. 将得到的base64编码字符串解码并传给打码平台进行识别

代码如下:

browser.find_element_by_name('img').screenshot("img.png")  # 找到验证码并将验证码以截图的方式保存
f = open('img.png', 'rb')  # 二进制方式打开图文件
image = base64.b64encode(f.read())  # 读取文件内容,转换为base64编码
f.close()
imageCaptchaValue = readImage(image.decode())  # base64编码解码后进行识别
browser.find_element_by_name('rand').send_keys(imageCaptchaValue)  # 填入验证码

这里需要注意的是以base64编码进行发送的时候需要先解码,否则会报错:

TypeError: Object of type bytes is not JSON serializable

进行到这一步,如果不出意外的话,只需要点击登录按钮就可以成功登录了:

browser.find_element_by_id('login_btn1').click()  # 点击登录按钮

登录网址后就可以进行自己想要做的事情啦! 这里再放一些登录后可能需要的代码:

browser.switch_to.alert.accept()  # 接受弹窗警告
cookies = browser.get_cookies()  # 获取当前状态下的cookies
dataUrl = browser.find_element_by_xpath('/html/body/a[1]').get_attribute('href')  # 获取数据文件下载路径

四、遇到的一些坑

  1. 有些网站的元素并不能直接通过find寻找到,比如有些网站页面用了大量的frame或iframe,那么此时需要先进入到该元素所在的frame,然后才能找到需要的元素:
browser.switch_to.frame('left')  # 进入到frame下
doSomething......
browser.switch_to.default_content()  # 重新回到主页面上操作元素
browser.switch_to.frame('main')  # 进入到新的frame中进行操作
doSomething......
  1. 一般的打码平台都需要充值后才能使用,建议先进行在线免费测试,确认它可以识别我们的验证码了之后再进行充值使用。
  2. 操作完毕后要记得关闭浏览器browser.quit()
  3. 如果在调用selenium的一些方法的时候发现pycharm给代码打了中划线,那么可能是这样方法已经不被推荐使用了,这时候稍微修改一下即可:
switch_to_window 改为 switch_to.window
switch_to_default_content 改为 switch_to.default_content
switch_to_frame 改为 switch_to.frame
  1. 有时候浏览器的加载速度跟不上你代码的运行速度,或者请求验证码识别速度比较慢,建议使用暂停的方法来进行缓冲:
browser.implicitly_wait(3)
time.sleep(2)

五、后记

其实整个流程操作下来,也就几十行代码,但是对于像我这样的菜鸡新手来说,可能需要七找八找,花上好几个小时,才能解决其中遇到的一些问题。学会selenium的一些方法之后,你会发现你还可以做很多其他的事情,然后挂在服务器上……哈哈哈,这里就不多说了。

如果大家在操作过程中还遇到了其他的困难,多多百度,百度能解决你大部分问题。等一个个解决之后,你还可以写一篇博客记录一下,把自己的经验分享给大家,让自己学到的东西更有意义,这也是一种乐趣吧!

如果文章对你有帮助,记得点赞,收藏,加关注。会不定期分享一些干货哦......

END配套学习资源分享

最后: 为了回馈铁杆粉丝们,我给大家整理了完整的软件测试视频学习教程,朋友们如果需要可以自行免费领取 【保证100%免费】

加入我的软件测试交流qq群:110685036免费获取~(同行大佬一起学术交流,每晚都有大佬直播分享技术知识点)

软件测试面试文档

我们学习必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有字节大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。

å¨è¿éæå¥å¾çæè¿°

全套资料获取方式:

å¨è¿éæå¥å¾çæè¿°

  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
要设置启动选项以避免验证码登录,可以尝试以下几个步骤: 1. 设置浏览器选项 使用Selenium启动浏览器时,您可以设置浏览器选项,例如禁用图片加载、禁用JavaScript等。这些选项可能有助于减少需要验证码的情况。 例如,以下代码将禁用Chrome浏览器的图片加载和JavaScript: ``` from selenium import webdriver options = webdriver.ChromeOptions() options.add_argument('--disable-gpu') options.add_argument('--disable-extensions') options.add_argument('--disable-infobars') options.add_argument('--disable-dev-shm-usage') options.add_argument('--no-sandbox') options.add_argument('--disable-popup-blocking') options.add_argument('--disable-default-apps') options.add_argument('--disable-translate') options.add_argument('--disable-web-security') options.add_argument('--disable-features=IsolateOrigins,site-per-process') options.add_argument('--blink-settings=imagesEnabled=false') options.add_argument('--disable-javascript') driver = webdriver.Chrome(chrome_options=options) ``` 2. 尝试登录前删除Cookie 如果网站使用Cookie来识别用户并显示验证码,您可以尝试在每次登录之前删除Cookie。这将模拟每次新用户登录网站的情况,从而避免验证码。 ``` driver.delete_all_cookies() ``` 3. 尝试使用代理IP 有些网站会通过IP地址来识别用户并显示验证码。您可以尝试使用代理IP来避免这种情况。 例如,以下代码将使用代理IP启动Chrome浏览器: ``` from selenium import webdriver options = webdriver.ChromeOptions() options.add_argument('--proxy-server=http://your-proxy-ip:your-proxy-port') driver = webdriver.Chrome(chrome_options=options) ``` 请注意,代理IP可能需要付费购买,而且速度可能较慢。建议仅在必要时使用代理IP。 总之,在使用Selenium登录网站时,您可以尝试上述方法来避免验证码登录。但是,请注意,如果网站具有强大的反爬虫保护机制,这些方法可能无法奏效。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值