爬虫时遇到的chromedriver问题

一、‘chromedriver‘ executable needs to be in PATH的问题

参考博客:小白解决:‘chromedriver‘ executable needs to be in PATH的问题

解决:'chromedriver' executable needs to be in PATH问题

1、首先需要对应直接的Chrome版本,下载对应的Chromedriver
Chrome的版本就在 “帮助->关于Chrome”查看

详细参考:详细参考:怎么查看chrome浏览器版本号 chrome版本如何看

2、然后就是通过chromedriver与chrome版本映射,找到对应的下载:

参考博客:selenium之 chromedriver与chrome版本映射表

比如我这里就是: 

windows的话,下载32位的也是没关系的。

3、下载之后就需要将Chromedriver.exe放到谷歌浏览器目录
(如 C:\Program Files(x86)\Google\Chrome\Application)
以及python根目录(C:\Python27)(这个是因人而异的)

4、最后就是将谷歌浏览器环境变量添加到PATH中(如果你的谷歌目录是这个的话,就放这个C:\Program Files(x86)\Google\Chrome\Application)

注意环境变量是用户环境变量:

5、安装python selenium库 

pip install selenium

基本操作

导入web库

from selenium import webdriver

创建driver对象并读取某网页

#打开一个谷歌浏览器,并且开始与浏览器会话
driver= webdriver.Chrome()
#网站
driver.get('http://www.baidu.com')

获取网页上某元素并改内容
网页上有个审查元素,可以右键看审查元素,这个大家都会。google浏览器中叫做“检查”或者“更多工具->开发者工具”

点击下图中那个按钮,就可以进入选取状态,此时我们选取左侧某个内容,右侧就会对应到他那一行代码,我们可以看到它的id,name等信息。

根据这些id、name找到它的位置。

 这里可以by_id也可以by_name等等,然后send_key更改信息,代码如下:

name = driver.find_element_by_id("id_username")
name.send_keys("data_operation")

按钮类操作
获取按钮,然后点击。

login_button = driver.find_element_by_class_name("submit-row")
login_button.click()

总结 

通过这些操作,我们可以实现网页表单自动填写


二、自动安装对应Chrome版本的Webdriver

参考博客:自动安装对应Chrome版本的Webdriver 

pip install webdriver-manager

 安装好后,将关于驱动的代码改为:

from selenium import webdriver
from webdriver_manager.chrome import ChromeDriverManager

driver = webdriver.Chrome(ChromeDriverManager().install())

它会将webdriver下载到缓存中:

进入这个临时文件夹,可以查看下载号的webdriver


三、爬取企业专利信息 

参考博客:【Python爬虫】爬取企业专利信息

本来是帮同学爬数据的,动态js,以及一堆东西,不算懂(国家专利网站很慢!!而其他的要会员,有点遗憾,这也是涉及法律,爬虫太迷糊了) 

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值