斗鱼主播后台礼物数据爬取

本文介绍了如何使用Python的selenium库配合Chrome浏览器爬取斗鱼主播后台的礼物数据。首先,确保环境配置正确,包括anaconda、谷歌浏览器和与其版本匹配的chromedriver。接着,导入selenium、pandas和time模块。通过selenium控制浏览器登录斗鱼主播后台,找到礼物记录页面。利用前端代码分析获取所需数据,通过class名定位元素并爬取。同时,实现翻页功能,设置适当的点击间隔避免请求过快导致错误。最后,将抓取的数据整理成DataFrame并导出为Excel文件。
摘要由CSDN通过智能技术生成

1.环境配置
需要安装anaconda,谷歌浏览器和chromedriver,chromedriver和谷歌浏览器的版本必须相匹配
在anaconda上安装selenium,基于selenium控制webdriver,chromedriver和谷歌浏览器的版本必须相匹配
在这里插入图片描述
在这里插入图片描述
python和chromedriver最好都放在一块,再添加一下环境变量
2.导入相关模块

import pandas as pd
import numpy as np
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.chrome.options import Options
import time
from sqlalchemy import create_engine 
import pymysql

主要用到的模块有selenium、pandas和time
3.启动chromedriver,用程序控制浏览器

browser = webdriver.Chrome()
login_page_url = 'https://mp.douyu.com/profit/liveprofit'
browser.get(login_page_url)

4.登录斗鱼主播后台,这里直接登录会需要账号密码,也可以扫码登录
在主播中心——我的收益可以看到礼物记录

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值