Python + Selenium读取网页表格

1.获取表格元素:

表格的结构一般以table标签开始,此函数是获取table元素的,一个网页中可能不止一个表格,此处返回表格元素的列表。

def GetTableElements():
      '''获得table标签元素列表,方便选择合适的表格'''
      driver = GetDriver()
      # 参考:selenium 根据 tag名 选择元素  https://blog.csdn.net/weixin_41665637/article/details/111315408
      elements = driver.find_elements_by_tag_name('table')
      return elements

 2.获取表格头的列信息:

  返回值形如 [‘列1的名字’, ‘列2的名字’]

 def _GetHeadList(table):
      '''
      功能:返回表格列的名称列表
      参数:table:对应的表格元素
      '''
      thead = table.find_element_by_tag_name('thead')
      tr = thead.find_element_by_tag_name('tr')
      ths = tr.find_elements_by_tag_name('th')
      res = []
      for th in ths:
          res.append(th.text)
      return res

 3.读取一行里面的信息:

  其中heads就是从表头中获取的每一列的名字列表。

def _GetOneRow(tr,heads):
      '''
      功能:取得一行的信息
      tr:当前行的tr元素
      heads:是一个字符串列表,表示每一列的名称
      返回值:返回一个字典,形如:{'Row1': value1, 'Row2':value2}
      '''
      res = {}
      tds = tr.find_elements_by_tag_name('td')
      for i,td in enumerate(tds):
          res[heads[i]] = td
      return res

 4.获取表格每一个单元格对象:

def GetTable(table):
      '''
      功能:返回表格信息
      参数:table:对应的表格元素
      '''
      res = []
      # Python学习交流群:711312441 
      # 获得表格头
      heads = _GetHeadList(table)
       
      tbody = table.find_element_by_tag_name('tbody')
      trs = tbody.find_elements_by_tag_name('tr')
      for tr in trs:
          row = _GetOneRow(tr,heads)
          res.append(row)
      return res

 5.也可以把单元格对象转换成文本:

def GetTableText(table):
      '''与GetTable函数相比,此函数把元素对象转换成文本'''
      res = []
      table = GetTable(table)
      for row in table:
          tmpRow = {}
          for key in row.keys():
              tmpRow[key]=row[key].text
          res.append(tmpRow)
      return res
​现在我也找了很多测试的朋友,做了一个分享技术的交流群,共享了很多我们收集的技术文档和视频教程。
如果你不想再体验自学时找不到资源,没人解答问题,坚持几天便放弃的感受
可以加入我们一起交流。而且还有很多在自动化,性能,安全,测试开发等等方面有一定建树的技术大牛
分享他们的经验,还会分享很多直播讲座和技术沙龙
可以免费学习!划重点!开源的!!!
qq群号:485187702【暗号:csdn11】

最后感谢每一个认真阅读我文章的人,看着粉丝一路的上涨和关注,礼尚往来总是要有的,虽然不是什么很值钱的东西,如果你用得到的话可以直接拿走! 希望能帮助到你!【100%无套路免费领取】

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
使用 Selenium 可以模拟浏览器操作,包括打开网页、点击按钮、输入文本、获取网页源代码等。因此,使用 Selenium 可以方便地爬取网页中的表格数据。 以下是使用 Selenium 爬取网页表格的一般步骤: 1. 导入必要的库 ```python from selenium import webdriver from selenium.webdriver.common.by import By from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC ``` 2. 创建浏览器对象 ```python driver = webdriver.Chrome() ``` 这里选择使用 Chrome 浏览器,需要先下载 ChromeDriver。 3. 打开网页 ```python url = "http://www.example.com" driver.get(url) ``` 4. 找到表格元素 可以使用 Selenium 提供的 find_element_by_* 方法找到表格元素,例如: ```python table = driver.find_element_by_id("table_id") ``` 5. 获取表格数据 获取表格数据有多种方式,以下是其中两种: (1)遍历表格行和列,逐一获取单元格数据: ```python rows = table.find_elements_by_tag_name("tr") for row in rows: cols = row.find_elements_by_tag_name("td") for col in cols: print(col.text) ``` (2)将表格数据读取到 Pandas DataFrame 中: ```python import pandas as pd html_table = driver.find_element_by_xpath("//table") df_list = pd.read_html(html_table.get_attribute('outerHTML')) df = df_list[0] ``` 6. 关闭浏览器 ```python driver.quit() ``` 完整的代码示例: ```python from selenium import webdriver from selenium.webdriver.common.by import By from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC import pandas as pd # 创建浏览器对象 driver = webdriver.Chrome() # 打开网页 url = "http://www.example.com" driver.get(url) # 找到表格元素 table = driver.find_element_by_id("table_id") # 将表格数据读取到 Pandas DataFrame 中 html_table = driver.find_element_by_xpath("//table") df_list = pd.read_html(html_table.get_attribute('outerHTML')) df = df_list[0] # 关闭浏览器 driver.quit() ```

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值