用selenium爬取直播信息

1.解析数据的函数


#解析数据的函数

def parse(self):

#强制等待两秒,等待页面数据加载完毕

sleep(2)

li_list = self.bro.find_elements_by_xpath(‘//*[@id=“listAll”]/section[2]/div[2]/ul/li’)

#print(len(li_list))

data_list = []

for li in li_list:

dic_data = {}

dic_data[‘title’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/h3’).text

dic_data[‘name’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/h2/div’).text

dic_data[‘art_type’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/span’).text

dic_data[‘hot’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/span’).text

data_list.append(dic_data)

return data_list

2.保存数据的函数


(1)保存为txt文本

#保存数据的函数

def save_data(self,data_list,i):

#在当前目录下将数据存为txt文件

with open(‘./douyu.txt’,‘w’,encoding=‘utf-8’) as fp:

for data in data_list:

data = str(data)

fp.write(data+‘\n’)

print(“第%d页保存完成!” % i)

(2)保存为json文件

#保存数据的函数

def save_data(self,data_list,i):

with open(‘./douyu.json’,‘w’,encoding=‘utf-8’) as fp:

#里面有中文,所以注意ensure_ascii=False

data = json.dumps(data_list,ensure_ascii=False)

fp.write(data)

print(“第%d页保存完成!” % i)

3.主函数设计


#主函数

def run(self):

#输入要爬取的页数,如果输入负整数,转化成她的绝对值

page_num = abs(int(input(“请输入你要爬取的页数:”)))

#初始化页数为1

i = 1

#判断输入的数是否为整数

if isinstance(page_num,int):

#实例化浏览器对象

self.bro = webdriver.Chrome(executable_path=‘…/…/可执行文件/chromedriver.exe’)

chromedriver.exe如果已添加到环境变量,可省略executable_path=‘…/…/可执行文件/chromedriver.exe’

self.bro.get(self.url)

while i <= page_num:

#调用解析函数

data_list = self.parse()

#调用保存函数

self.save_data(data_list,i)

try:

#定位包含“下一页”字段的按钮并点击

button = self.bro.find_element_by_xpath(‘//span[contains(text(),“下一页”)]’)

button.click()

i += 1

except:

break

self.bro.quit()

else:

print(“输入格式错误!”)

四、完整代码

======

from selenium import webdriver

from time import sleep

import json

#创建一个类

class Douyu():

def init(self):

self.url = ‘https://www.douyu.com/directory/all’

#解析数据的函数

def parse(self):

#强制等待两秒,等待页面数据加载完毕

sleep(2)

li_list = self.bro.find_elements_by_xpath(‘//*[@id=“listAll”]/section[2]/div[2]/ul/li’)

#print(len(li_list))

data_list = []

for li in li_list:

dic_data = {}

dic_data[‘title’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/h3’).text

dic_data[‘name’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/h2/div’).text

dic_data[‘art_type’] = li.find_element_by_xpath(‘./div/a/div[2]/div[1]/span’).text

dic_data[‘hot’] = li.find_element_by_xpath(‘./div/a/div[2]/div[2]/span’).text

data_list.append(dic_data)

return data_list

#保存数据的函数

def save_data(self,data_list,i):

#在当前目录下将数据存为txt文件

with open(‘./douyu.txt’,‘w’,encoding=‘utf-8’) as fp:

for data in data_list:

data = str(data)

fp.write(data+‘\n’)

print(“第%d页保存完成!” % i)

json文件的存法

with open(‘./douyu.json’,‘w’,encoding=‘utf-8’) as fp:

里面有中文,所以注意ensure_ascii=False

data = json.dumps(data_list,ensure_ascii=False)

fp.write(data)

print(“第%d页保存完成!” % i)

#主函数

def run(self):

#输入要爬取的页数,如果输入负整数,转化成她的绝对值

page_num = abs(int(input(“请输入你要爬取的页数:”)))

#初始化页数为1

i = 1

#判断输入的数是否为整数

if isinstance(page_num,int):

#实例化浏览器对象

self.bro = webdriver.Chrome(executable_path=‘…/…/可执行文件/chromedriver.exe’)

chromedriver.exe如果已添加到环境变量,可省略executable_path=‘…/…/可执行文件/chromedriver.exe’

self.bro.get(self.url)

while i <= page_num:

#调用解析函数

data_list = self.parse()

#调用保存函数

self.save_data(data_list,i)

try:

#定位包含“下一页”字段的按钮并点击

button = self.bro.find_element_by_xpath(‘//span[contains(text(),“下一页”)]’)

button.click()

i += 1

except:

break

self.bro.quit()

else:

print(“输入格式错误!”)

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数前端工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Web前端开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。

img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!

如果你觉得这些内容对你有帮助,可以扫码获取!!(备注:前端)

最后

前15.PNG

前16.PNG

由于文档内容过多,为了避免影响到大家的阅读体验,在此只以截图展示部分内容,详细完整版的JavaScript面试题文档,或更多前端资料可以点此处获取

目、讲解视频,并且会持续更新!**

如果你觉得这些内容对你有帮助,可以扫码获取!!(备注:前端)

最后

[外链图片转存中…(img-0gYBNq5j-1712817984593)]

[外链图片转存中…(img-O002Ljku-1712817984594)]

由于文档内容过多,为了避免影响到大家的阅读体验,在此只以截图展示部分内容,详细完整版的JavaScript面试题文档,或更多前端资料可以点此处获取

  • 8
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值