Python+Selenium+Firefox headless 配置

    最近爬虫要用到Python爬一个比较复杂的网站,PhantomJs好像停止维护了,所以选择了Selenium+Firefox headless,查了一些Firefox相关的配置,记录一下
查看支持的配置:

Firefox版本:60.0.2(64)

地址栏输入about:config打开配置页

英语好的大神可以去About:config英文地址查看原注释(网页加载很慢,有时一次加载不出来,刷新一下就行了)


下载火狐浏览器驱动:

火狐浏览器驱动可直接从网上下载:geckodriver的下载链接:https://github.com/mozilla/geckodriver/releases

下载后扔到Python根目录


安装Selenium:
CMD -> pip3 install selenium

Python中的配置代码:

from selenium import webdriver

#无头模式
options = webdriver.FirefoxOptions()
options.add_argument('-headless')

profile = webdriver.FirefoxProfile()
#禁用图片
profile.set_preference('permissions.default.image', 2)
#禁用Flash
profile.set_preference('dom.ipc.plugins.enabled.npswf32.dll', 'false')#Windows
profile.set_preference('dom.ipc.plugins.enabled.libflashplayer.so', 'false')#Linux
#禁用Js
profile.set_preference('javascript.enabled', 'false')

browser = webdriver.Firefox(options=options,firefox_profile = profile)
#查看拥有的各种方法、属性
print(dir(browser))

browser.get("https://blog.csdn.net/kunorz")
#截图
browser.get_screenshot_as_file('myblog.png')
#获取网页源码
page = browser.page_source
print(page)

#关闭
browser.close()

浏览器记得要关闭,不然会打开很多个

更多方法请看Selenium package API


一些用得到的配置:
1.permissions.default.image = 2

0:加载所有图片

1:Load images from same (originating) server only(就这个意思)

2:不加载图片

2.javascript.enabled = true

js解析功能

2.network.prefetch-nextfalse = false

预加载功能,载入一个网页后,会预加载你可能会打开的网页链接内容。

3.network.dns.disableIPv6 = true

禁用IPv6,IPv4是主流,IPv6数量很少,很少会去解析,关闭它可以提高速度。

有需要再去源地址About:config英文地址查找





  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值