Python selenium爬虫实例(列举中国糖酒网)

  • 当我们学python爬虫一段时间后会发现许多网站如果不登录的话,数据你是获取不下来的。这时候就需要想其他办法了。在这里小博向大家介绍的实例就是通过selenium模拟浏览器登录,并截取验证码图片上传到云打码解码,从而实现网站的登录的
  • 首先我们需要引入一下模块包
import time
from selenium import webdriver
from YDMHTTP import yanzheng #这里指的是云打码代码,下边会介绍到
from PIL import Image
from selenium.webdriver.support.ui import WebDriverWait
  • 接下来就是爬虫代码
# Project Leader:刘
import time
from selenium import webdriver
from YDMHTTP import yanzheng
from PIL import Image
from selenium.webdriver.support.ui import WebDriverWait
# 调用谷歌浏览器
diver = webdriver.Chrome()
# 打开网页
diver.get('http://t.tangjiu.com/Login?ReturnUrl=%2f')
#输入账号
username = WebDriverWait(diver,10).until(lambda diver:diver.find_element_by_id('user'))
username.send_keys('dukanglaojiu')
# 输入密码
password = WebDriverWait(diver,10).until(lambda diver:diver.find_element_by_id('pass'))
password.send_keys('密码')
# 定位验证码标签,对验证码实现截图功能
captcha = WebDriverWait(diver,10).until(lambda diver:diver.find_element_by_id('imgYanZhengMa'))
# 截取整个页面
diver.save_screenshot('page.png')

# 获取验证码图片的x,y坐标以及自身的宽度和高度
left = captcha.location['x']
top = captcha.location['y']
right = captcha.location['x'] + captcha.size['width']
bottom = captcha.location['y'] + captcha.size['height']
print('right',right)
print('bottom',bottom)

# 截取验证码并保存到本地
img = Image.open('page.png')
img = img.crop((left,top,right,bottom))
img.save('captcha.png')

# 将截取的验证码上传到云打码进行在线识别
text = yanzheng('captcha.png')
print('识别结果:',text)

# 定位验证码的输入框
captcha_input = WebDriverWait(diver,10).until(lambda diver:diver.find_element_by_id('vccode'))
captcha_input.send_keys(text)

# 点击登录按钮
diver.find_element_by_id('BtnLoadByPass').click()
time.sleep(1)
# 点击经销商代理意向
WebDriverWait(diver, 10).until(
        lambda diver: diver.find_element_by_xpath('//d
  • 0
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 这个问题似乎被编码了。但是回答上面的提问,关于Python Selenium爬虫的示例,下面是可能的回答: Python Selenium爬虫的示例包括: - 模拟登录网站并抓取信息,例如抓取用户账户数据或者其他数据 - 爬取页面内容,例如抓取产品信息、天气预报、新闻内容等 - 自动填写表单,例如自动填写调查问卷,自动提交订阅表格等 - 自动化测试网页,例如测试UI页面呈现、点击、跳转等 - 对特定网站进行批量操作,例如对在线商店进行批量下单操作,自动定时发送邮件等 PythonSelenium的结合,使得实现这些功能变得更加容易。通过Selenium的API接口可以自动化Web操作,并使用Python脚本来控制Selenium实例,实现各种爬取任务。 ### 回答2: Python Selenium爬虫是一种基于Python脚本语言和Selenium驱动的网页爬取工具,可以通过模拟网页浏览器的操作,自动化地爬取网页数据Python Selenium爬虫具有速度快、难以被反爬、可视化程度高等优点,因此深受开发者的青睐。 下面以一个简单的Python Selenium爬虫实例来说明其使用方法: 1.准备工作 首先,需要在自己的电脑上安装Python环境和Selenium包。具体步骤如下: (1)安装Python环境:去官网下载对应的Python版本,并按照提示安装即可。 (2)安装Selenium包:在命令行输入“pip install selenium”,即可安装Selenium包。 (3)下载浏览器驱动:Selenium支持多种浏览器,因此需要下载对应的驱动。以Chrome浏览器为例,在http://chromedriver.storage.googleapis.com/index.html下载对应版本的驱动,并保存到本地。 2.代码实现 该实例的任务是爬取豆瓣电影Top250的电影名称和评分,并将其输出到控制台。 (1)导入必要的库:代码中需要导入selenium、time、openpyxl等库,以便实现相关操作。 (2)获取网页源代码:首先需要启动一个chrome浏览器并访问豆瓣电影Top250的页面。Selenium可以模拟人的操作,因此可以使用get()方法打开指定的网页。 (3)解析HTML页面:获取网页源代码后,使用BeautifulSoup库对HTML页面进行解析,以便后续提取所需数据。 (4)定位所需数据:通过分析网页源代码,可以找到电影名称和评分所在的标签位置。使用Selenium的find_elements_by_xpath()方法定位指定的元素并提取数据。 (5)输出结果:将提取的电影名称和评分输出到控制台。 3.代码示例 以下是该实例的完整代码示例: ``` from selenium import webdriver from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC from selenium.webdriver.common.by import By from bs4 import BeautifulSoup import time # 启动Chrome浏览器 driver = webdriver.Chrome(executable_path='./chromedriver.exe') driver.get('https://movie.douban.com/top250') # 等待页面加载完成 wait = WebDriverWait(driver, 5) wait.until(EC.presence_of_element_located((By.CLASS_NAME, 'grid_view'))) # 解析HTML页面 html = driver.page_source soup = BeautifulSoup(html, 'lxml') # 查找电影名称和评分标签 movies = soup.find_all('div', class_='hd') rates = soup.find_all('span', class_='rating_num') # 输出结果 for movie, rate in zip(movies, rates): print(movie.a.span.text, rate.text) # 关闭浏览器 driver.quit() ``` 通过以上代码实现,我们就可以快捷地获取豆瓣电影Top250的电影名称和评分数据,并且还可以将其输出到控制台中,方便后续数据处理和分析。不过要注意,爬虫要遵守相关法规和规范,不要非法地获取、利用网站数据,以免触犯法律。 ### 回答3: Python Selenium是一个强大的Web自动化测试工具,可以模拟真实用户的行为,并完成一系列的操作,如自动化登录爬取数据等。在Python爬虫中,Selenium也有着非常广泛的应用,在数据采集与数据分析等领域都有着不可替代的作用。 Python Selenium爬虫实例的基本步骤如下: 1. 安装Selenium模块和相应浏览器驱动 Selenium需要安装相应的模块和浏览器驱动才能正确运行。比如,如果我们想在Chrome上运行Selenium,就需要安装selenium模块和Chrome浏览器驱动。 2. 打开网页 使用Selenium打开需要爬取的页面,通过访问页面URL地址,拿到页面内容。 3. 查找元素 通过查找网页源代码中的HTML元素,找到需要爬取数据所在的位置。 4. 提取数据 通过Selenium提供的方法,获取所需数据,并进行二次处理以获取更为精确的数据。 5. 数据存储 将获取的数据存储在本地文件或数据库中,便于后续的数据处理和分析。 举个例子,如果我们想通过Selenium爬取百度页面的搜索结果,可以按照以下步骤进行: 1. 安装Selenium和Chrome浏览器驱动 ``` pip install selenium ``` 同时也需要下载相应版本的Chrome驱动并解压缩,然后将驱动文件所在路径加入环境变量。 2. 打开网页 ```python from selenium import webdriver # 指定浏览器驱动的路径 driver = webdriver.Chrome('path/to/chromedriver') # 使用get方法访问要爬取的百度页面 driver.get('https://www.baidu.com') ``` 3. 查找元素 我们想要爬取的是搜索结果列表,其在百度页面中的HTML代码如下: ```html <div id="content_left"> <!-- 搜索结果列表 --> <div class="result">...</div> <!-- 搜索结果项 --> <div class="result">...</div> <div class="result">...</div> ... </div> ``` 我们可以使用Selenium的find_elements_by_xpath方法查找元素。XPath语法是一种在XML文档中查找信息的语言,也可以用在HTML文档中。以下是示例代码: ```python # 使用XPath查找搜索结果列表 result_list = driver.find_elements_by_xpath('//div[@id="content_left"]/div[@class="result"]') ``` 4. 提取数据 从搜索结果列表中获取每个搜索结果的标题和链接,并将数据存储在本地文件中: ```python # 遍历搜索结果列表,获取结果标题和链接 for res in result_list: # 获取搜索结果标题 title = res.find_element_by_xpath('.//h3/a').text # 获取搜索结果链接 link = res.find_element_by_xpath('.//h3/a').get_attribute('href') # 将搜索结果写入文件 with open('results.txt', 'a', encoding='utf-8') as f: f.write(title+'\t'+link+'\n') ``` 5. 数据存储 上述代码将搜索结果存储在名为“results.txt”的文件中。 其他常见的Python Selenium爬虫实例包括: - 爬取动态页面 通过Selenium模拟用户在网页上的操作,如下拉滚动条等,从而爬取动态页面上的数据。 - 自动登录爬虫 利用Selenium实现自动登录,避免个人信息被盗,也方便持续爬取一些需要登录后才能访问的数据。 - 爬取验证码 自动识别验证码,提高爬虫的成功率。 总之,Python Selenium爬虫实例应用非常广泛,我们可以根据具体的需求随时调整实现方式,获取更多更有用的数据,同时也需要注意把握好爬虫的合法性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值