python selenium加bs4批量爬取斗鱼直播信息

from selenium import webdriver
from bs4 import BeautifulSoup
import time
# 返回Phantomjs对象
driver = webdriver.PhantomJS()
# 使用get方法请求
driver.get('https://www.douyu.com/directory/all')
f=open("douyu.txt","w",encoding= 'utf-8')
i=0
while True:
    html = driver.page_source
    # 解析HTML网页源代码
    soup = BeautifulSoup(html, 'lxml')
    room_names = soup.find_all('h3', class_="ellipsis")
    room_numbers = soup.find_all('span', class_="dy-num fr")
    i+=1
    for room_name, room_number in zip(room_names, room_numbers):
        name = room_name.get_text().replace("\n","").strip()
        number = room_number.get_text().replace("\n","").strip()
        f.write("房间名:" + name +"  房间人数:" + number)
        f.write("\n")
    print("已完成第"+str(i)+"页数据爬取")
    time.sleep(5)

    # 如果不能翻页,退出循环
    if html.find('shark-pager-next shark-pager-disable shark-pager-disable-next') != -1:
        break
    driver.find_element_by_class_name('shark-pager-next').click()
f.close()
driver.close()




评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值