一、解释说明
如果想直接在CentOS6.8环境下使用Selenium的话,一般而言服务器上都有python,还是比较方便的。
二、操作过程中Linux相关命令
1、下载谷歌浏览器
yum install https://dl.google.com/linux/direct/google-chrome-stable_current_x86_64.rpm
2、查看谷歌浏览器的版本
google-chrome --version
3、下载对应版本的谷歌驱动的压缩包(或者本地上传)
wget https://chromedriver.storage.googleapis.com/113.0.5672.63/chromedriver_linux64.zip
4、解压下载的文件
unzip chromedriver_linux64.zip
5、移动下载文件
mv chromedriver /usr/bin/
6、给予文件执行权限
chmod +x /usr/bin/chromedriver
7、更新pip3到最高版本
pip3 install --upgrade pip -i https://pypi.tuna.tsinghua.edu.cn/simple/
8、下载Selenium第三方库
一般而言,服务器上有两个python,一种是Python3.x,还有一种是Python2.x,多数情况下,下载Selenium这个第三方库用的都是Python3.x
我一般不太喜欢单个下载,不然有些依赖可能会出现缺失,所以我一般将所需要的第三方库都放在一个文件里,再进行读取下载。
pip3 install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple/
9、正式测试
nohup python3 -u test.py > log.log 2>&1 &
10、最后自己来测试就可以了(Selenium版本得>=4.3.0)
#!/usr/bin/python3
#coding:utf-8
# 浏览器
from selenium import webdriver
# 规避检测
from selenium.webdriver import ChromeOptions
# 无头浏览器
from selenium.webdriver.chrome.options import Options
from selenium.webdriver.chrome.service import Service
from selenium.webdriver.common.by import By
ch_options = webdriver.ChromeOptions()
#为Chrome配置无头模式
ch_options.add_argument("--headless")
ch_options.add_argument('--no-sandbox')
ch_options.add_argument('--disable-gpu')
ch_options.add_argument('--disable-dev-shm-usage')
# 在启动浏览器时加入配置,这个驱动路径是容器里对应的路径,不是宿主机的路径
dr = webdriver.Chrome(service=Service("/ubuntu/python/chromedriver"),options=ch_options)
#这是测试网站
url = "https://www.baidu.com"
dr.get(url)
#打印源码
print(dr.page_source)
三、CentOS6.8下将python3.6更新到更高版本
1、解释说明
可能用python3.6感觉一些第三方的库也下载不下来,很麻烦,就会想将原来的python3升个级啥的,博主我也补充一下,我就用python3.7举个例子。
2、线上下载压缩包
wget https://www.python.org/ftp/python/3.7.0/Python-3.7.0.tgz
3、解压压缩包
tar -xvf Python-3.7.0.tgz
4、下载相关的依赖库
yum install zlib zlib-devel libffi-devel -y
5、跳到对应文件夹内
cd Python-3.7.0
6、安装到/usr/local目录中
./configure --prefix=/usr/local/python3
7、进行编译,然后安装程序到指定的目录
make && make altinstall
8、删除一些临时文件(删除源代码(C\C++ code)生成的执行文件和所有的中间目标文件)
make clean
9、删除原来的python3和pip3
rm -rf /usr/bin/python3
rm -rf /usr/bin/pip3
10、创建软链接
ln -s /usr/local/python3/bin/python3.7 /usr/bin/python3
ln -s /usr/local/python3/bin/pip3.7 /usr/bin/pip3
11、查看python版本
python3 -V
12、查看pip版本
pip3 --V
13、基本就成功了
14、如果使用pip命令出现了问题的解决方案
一直出现 ModuleNotFoundError: No module named ‘pip._internal.cli’ 的错误
按顺序执行这两步操作,就能解决
python -m ensurepip
python -m pip install --upgrade pip