selenium爬虫加载网页，查看请求信息，定位元素命令,selenium爬虫使用代理

1.selenium基本命令

加载网页

from selenium import webdriver 
driver = webdriver.PhantomJS(“c:…/pantomjs.exe”)
driver.get("http://www.baidu.com/")
driver.save_screenshot("长城.png")  # 保存截屏图片

查看请求信息

driver.page_source  # 网页源码
driver.get_cookies()  # cookies信息
driver.current_url  # url地址

退出

driver.close() #退出当前页面
driver.quit()  #退出浏览器

定位元素命令

find_element_by_id (返回一个元素)
find_elements_by_xpath （返回一个包含元素的列表）
find_elements_by_link_text （根据连接文本获取元素列表）
find_elements_by_partial_link_text （根据连接包含的文本获取元素列表）
find_elements_by_tag_name (根据标签名获取元素列表)
find_elements_by_class_name （根据类名获取元素列表）

2.selenium爬虫使用代理

from selenium import webdriver
chome_options = webdriver.ChromeOptions()
chome_options.add_argument('--proxy-server=http://ip:port')
driver = webdriver.Chrome(chrome_options=chome_options)

3.例子1

from selenium import webdriver

driver =webdriver.Chrome()
driver.get("https://www.douban.com/")
ret1 = driver.find_element_by_id("anony-nav")
# 输出为：<selenium.webdriver.remote.webelement.WebElement (session="ea6f94544ac3a56585b2638d352e97f3", element="0.5335773935305805-1")>
ret2 = driver.find_elements_by_id("anony-nav")
#输出为：[<selenium.webdriver.remote.webelement.WebElement (session="ea6f94544ac3a56585b2638d352e97f3", element="0.5335773935305805-1")>]
driver.close()

例子2：一个漫画网站的图片源码里面div里面没有包含img标签，是js代码之后发送请求加载的。可以用selenium把加载之后的源码弄到手，然后在解析

from selenium import webdriver
driver = webdriver.Chrome()
driver.get(url)
html = driver.page_source
soup = BeautifulSoup(html, "lxml")
image = soup.find('div', id='images').find('img').get('src')
print(image)
driver.close()