爬虫请求库的安装

1.requests pip3 install requests
2.selenium pip3 install selenium
3.安装谷歌和火狐浏览器
4.chromeDriver和geckoDriver [github上搜索,windows复制到python的
	scripts目录下,linux 系统配置环境变量或者移动到/usr/bin目录
	sudo mv chromeDriver /usr/bin
	sudo mv geckoDriver /usr/bin
	或者配置环境变量
谷歌 
	将可执行文件放到/usr/local/chromeDriver
	~/.profile 
	export PATH="$PATH://usr/local/chromeDriver"
	保存后执行如下命令
	source ~/.profile
	验证
		控制台 geckoDriver 
		python代码
			from selenium import webdriver
			browser=webdriver.Chrome()
			如果弹出空白的谷歌浏览器则成功
火狐
	将可执行文件放到/usr/local/geckoDriver
	~/.profile 
	export PATH="$PATH://usr/local/geckoDriver"
	保存后执行如下命令
	source ~/.profile
	验证
		控制台 geckoDriver 
		python代码
			from selenium import webdriver
			browser=webdriver.Firefox()
			如果弹出空白的火狐浏览器则成功
5.phantomJs
	GitHub或者官网下载
	Windows是将bin目录添加到环境变量,或者
	直接复制到python的scripts文件夹
	
	或者直接
	sudo apt install phantomjs
	
	测试是否安装成功
	phantomjs
	出现phantomjs命令行说明成功
	代码测试
	from selenium import webdriver
	browser=webdriver.PhantomJS()
	browser.get("https://www.baidu.com")
	print(browser.current_url)
6.selenium已经放弃PhantomJS了,建议使用火狐或者谷歌无界面浏览器。
使用无界面浏览器Selenium+Headless Firefox
Selenium+Headless Firefox和Selenium+Firefox,区别就是实例option的时候设置-headless参数。
前提条件:
- 本地安装Firefox浏览器
- 本地需要geckodriver驱动器文件,如果不配置环境变量的话,需要手动指定executable_path参数。
	
7.from selenium.webdriver import Firefox
from selenium.webdriver.firefox.options import Options
def main():
    options = Options()
    options.add_argument('-headless')
    driver = Firefox(executable_path='/usr/bin/geckodriver
', firefox_options=options)
    driver.get("https://www.baidu.com")
    print(driver.page_source)
    driver.close()


if __name__ == '__main__':
    main()
8.安装异步web服务库aiohttp
pip3 install aiohttp
字符串编码检测库 cchardet
加速DNS的解析库aiodns
pips install cchardet aiodns	
	
9.Could not find a version that satisfies the requirement aiohttp等解决办法	
更新pip
pip install --upgrade pip
python3
pip3 install --upgrade pip
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值