centos安装chrome和chromedriver

当爬取带有iframe的网页数据时,如果直接用requests库去获取,返回结果是不包含iframe中内容的,网上了解可以用Selenium+webdriver来模拟浏览器访问爬取,于是在自己的虚拟机上安装了chrome和chromedriver。

1. 安装chrome

yum安装配置

  1. 创建yum源文件

    cd /etc/yum.repo.d/
    touch google-chrome.repo
    
  2. 配置yum源信息

    [google-chrome]
    name=google-chrome
    baseurl=http://dl.google.com/linux/chrome/rpm/stable/$basearch
    enabled=1
    gpgcheck=1
    gpgkey=https://dl-ssl.google.com/linux/linux_signing_key.pub
    
  3. 安装

    yum -y install google-chrome-stable --nogpgcheck
    
  4. 完成后查看chrome版本

    google-chrome --version
    

2. 安装chromedriver

下载地址:https://chromedriver.storage.googleapis.com/index.html

chromedriver和chrome是有对应关系的。

问题

当使用报如下错误:

File "/usr/local/python3/lib/python3.6/site-packages/selenium/webdriver/remote/errorhandler.py", line 242, in check_response
    raise exception_class(message, screen, stacktrace)
selenium.common.exceptions.WebDriverException: Message: unknown error: Chrome failed to start: exited abnormally
  (unknown error: DevToolsActivePort file doesn't exist)
  (The process started from chrome location /usr/bin/google-chrome is no longer running, so ChromeDriver is assuming that Chrome has crashed.)
  (Driver info: chromedriver=70.0.3538.97 (d035916fe243477005bc95fe2a5778b8f20b6ae1),platform=Linux 3.10.0-862.14.4.el7.x86_64 x86_64)

百度解决办法为,把sandbox禁用。

chrome_options = Options()
chrome_options.add_argument('--headless')
chrome_options.add_argument('--no-sandbox') # 添加这句即可
driver = webdriver.Chrome('/usr/bin/chromedriver', chrome_options=chrome_options)
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值