爬虫获取:解决动态加载数据和frame框架问题

仅供学习参考
以网易云排行榜为例
1、获取动态数据可以用selenium实现
2、获取frame框架里面的数据,可以用下面代码的方式实现

from selenium import webdriver
import time

driver = webdriver.Chrome()
driver.get('https://music.163.com/#/discover/toplist')
driver.maximize_window()

# # 方法一
# # 获取frame
## 直接切换到frame里面
# driver.switch_to.frame('g_iframe')        # frame括号里面的是它的id
# trs = driver.find_elements_by_tag_name('tr')
# print(trs)

# 方法二
# 先获取标签
iframe = driver.find_element_by_id('g_iframe')
# 再切换到frame
driver.switch_to.frame(iframe)
# trs = driver.find_elements_by_tag_name('tr')
parent = driver.find_element_by_id('song-list-pre-cache')
table = parent.find_elements_by_tag_name('table')[0]
tbody = table.find_elements_by_tag_name('tbody')[0]
trs = tbody.find_elements_by_tag_name('tr')
print(trs)
for each in trs:
    print(each.find_elements_by_tag_name('td')[0].text)
    print(each.find_elements_by_tag_name('td')[3].find_elements_by_tag_name('div')[0].get_attribute('title'))
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

平原2018

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值