)
browser.find_element_by_xpath(‘.//ul[@id=“headerNav”]/li[4]’).click()
8.点击群管理之后,进入群管理界面,我们需要的是成员管理
点击之后,我们找到成员管理标签并点击
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CLASS_NAME, ‘color-tit’)
)
)
browser.find_element_by_class_name(‘color-tit’).click()
9.点击成员管理之后会重新新建一个窗口,这个时候就会出现句柄,我们需要将当然窗口的句柄切换到新打开的这个界面,不然的话,是获取不到新打开界面的信息的,注释已经写了
打印全部窗口句柄
print(browser.window_handles)
打印当前窗口句柄
print(browser.current_window_handle)
注意这里点击成员管理之后会自动跳转到一个新窗口打开这个页面
所以我们需要将窗口句柄切换到这个新窗口
browser.switch_to.window(browser.window_handles[1])
解释一下browser.switch_to.window是获取当前一共有几个窗口
这里是2个
browser.switch_to.window这个是指定当前游标切换到哪个窗口
其实也可以这么写
all_window = browser.switch_to.window返回的是一个列表
browser.switch_to.window(all_window[1])
效果是一样的
10.我们需要的是我加入的群信息
切换句柄之后,我们显示等待窗口出来
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CLASS_NAME, ‘my-all-group’)
)
)
筛选出我加入的群标签
lis = browser.find_elements_by_xpath(‘.//div[@class=“my-all-group”]/ul[2]/li’)
11.遍历列表,取出信息
遍历
num= 0
while True:
if num == len(lis):
break
try:
按顺序选择群并获取信息
先点击该群获取成员信息
lis[num].click()
显示等待信息加载完成
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CLASS_NAME, ‘list’)
)
)
获取该群当前有多少人,后面翻页需要
groupMemberNum = eval(browser.find_element_by_id(‘groupMemberNum’).text)
每一次翻页都会刷新21条信息,所以写个循环
这里加1是因为假如一个群有36人,那么count=1,如果循环的话就不会翻页了
也就是只能抓到一页的数据,大家可以自己想想其中的流程就知道了
count = groupMemberNum // 21 + 1
这里我只爬取每个群的一部分,如果想爬取全部成员信息
请注释下面的if语句
if count > 2:
count = 1
每次循环都进行翻页
while count:
count -= 1
browser.execute_script(‘document.documentElement.scrollTop=100000’)
time.sleep(2)
time.sleep(2)
开始获取成员信息
trs = browser.find_elements_by_class_name(‘mb’)
if trs:
遍历
for tr in trs:
tds = tr.find_elements_by_tag_name(‘td’)[2:]
if len(tds) == 8:
qq网名
qq_name = tds[0].text
群名称
group_name = tds[1].text
qq号
qq_number = tds[2].text
性别
gender = tds[3].text
qq年龄
qq_year = tds[4].text
入群时间
join_time = tds[5].text
等级(积分)
level = None
最后发言时间
end_time = tds[6].text
声明一个字典存储数据
data_dict = {}
data_dict[‘qq_name’] = qq_name
data_dict[‘group_name’] = group_name
data_dict[‘qq_number’] = qq_number
data_dict[‘gender’] = gender
data_dict[‘qq_year’] = qq_year
data_dict[‘join_time’] = join_time
data_dict[‘level’] = level
data_dict[‘end_time’] = end_time
print(data_dict)
elif len(tds) == 9:
qq网名
qq_name = tds[0].text
群名称
group_name = tds[1].text
qq号
qq_number = tds[2].text
性别
gender = tds[3].text
qq年龄
qq_year = tds[4].text
入群时间
join_time = tds[5].text
等级(积分)
level = tds[6].text
最后发言时间
end_time = tds[7].text
声明一个字典存储数据
data_dict = {}
data_dict[‘qq_name’] = qq_name
data_dict[‘group_name’] = group_name
data_dict[‘qq_number’] = qq_number
data_dict[‘gender’] = gender
data_dict[‘qq_year’] = qq_year
data_dict[‘join_time’] = join_time
data_dict[‘level’] = level
data_dict[‘end_time’] = end_time
data_list.append(data_dict)
print(data_dict)
browser.find_element_by_id(‘changeGroup’).click()
time.sleep(3)
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CLASS_NAME, ‘ui-dialog’)
)
)
lis = browser.find_elements_by_xpath(‘.//div[@class=“my-all-group”]/ul[2]/li’)
num += 1
except Exception as e:
lis = browser.find_elements_by_xpath(‘.//div[@class=“my-all-group”]/ul[2]/li’)
num += 1
continue
完整代码附上
导入需要的包
爬取qq群的成员信息
from selenium import webdriver
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
import time
import json
import csv
开始登陆
def login_spider():
url = ‘https://qun.qq.com/’
构建谷歌驱动器
browser = webdriver.Chrome()
请求url
browser.get(url)
模拟登陆,首先找到登陆的id,并点击
browser.find_element_by_css_selector(‘#headerInfo p a’).click()
点击之后会弹出一个登陆框,这时候我们用显示等待来等待这个登陆框加载出来
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CSS_SELECTOR, ‘#loginWin iframe’)
)
)
print(‘登陆框已加载’)
登陆框加载之后,我们发现整个登陆框其实就是另一个网网页
如果在原网页操作这个登陆框的话,是不能操作的
所以我们只需要提取iframe标签的src属性,然后再去访问这个url即可实现
自动登陆
找到iframe标签并获取是如此熟悉
iframe_url = browser.find_element_by_css_selector(‘#loginWin iframe’).get_attribute(‘src’)
再访问这个url
browser.get(iframe_url)
找到快捷登陆的头像并点击
首先用显示等待这个头像已经加载完成
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.ID, ‘qlogin_list’)
)
)
browser.find_element_by_css_selector(‘#qlogin_list a’).click()
print(‘登陆成功’)
return browser
切换句柄操作
def switch_spider(browser):
登陆成功之后,我们就找到群管理的标签并点击,首先等待这个元素加载完成
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.XPATH, ‘.//ul[@id=“headerNav”]/li[4]’)
)
)
browser.find_element_by_xpath(‘.//ul[@id=“headerNav”]/li[4]’).click()
点击之后,我们找到成员管理标签并点击
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CLASS_NAME, ‘color-tit’)
)
)
browser.find_element_by_class_name(‘color-tit’).click()
打印全部窗口句柄
print(browser.window_handles)
打印当前窗口句柄
print(browser.current_window_handle)
注意这里点击成员管理之后会自动跳转到一个新窗口打开这个页面
所以我们需要将窗口句柄切换到这个新窗口
browser.switch_to.window(browser.window_handles[1])
解释一下browser.switch_to.window是获取当前一共有几个窗口
这里是2个
browser.switch_to.window这个是指定当前游标切换到哪个窗口
其实也可以这么写
all_window = browser.switch_to.window返回的是一个列表
browser.switch_to.window(all_window[1])
效果是一样的
return browser
开始采集数据
def start_spider(browser):
声明一个列表存储字典
data_list = []
切换句柄之后,我们显示等待窗口出来
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CLASS_NAME, ‘my-all-group’)
)
)
筛选出我加入的群标签
lis = browser.find_elements_by_xpath(‘.//div[@class=“my-all-group”]/ul[2]/li’)
遍历
num = 0
while True:
try:
按顺序选择群并获取信息
先点击该群获取成员信息
lis[num].click()
显示等待信息加载完成
WebDriverWait(browser, 1000).until(
EC.presence_of_all_elements_located(
(By.CLASS_NAME, ‘list’)
)
)
获取该群当前有多少人,后面翻页需要
groupMemberNum = eval(browser.find_element_by_id(‘groupMemberNum’).text)
每一次翻页都会刷新21条信息,所以写个循环
这里加1是因为假如一个群有36人,那么count=1,如果循环的话就不会翻页了
也就是只能抓到一页的数据,大家可以自己想想其中的流程就知道了
做了那么多年开发,自学了很多门编程语言,我很明白学习资源对于学一门新语言的重要性,这些年也收藏了不少的Python干货,对我来说这些东西确实已经用不到了,但对于准备自学Python的人来说,或许它就是一个宝藏,可以给你省去很多的时间和精力。
别在网上瞎学了,我最近也做了一些资源的更新,只要你是我的粉丝,这期福利你都可拿走。
我先来介绍一下这些东西怎么用,文末抱走。
(1)Python所有方向的学习路线(新版)
这是我花了几天的时间去把Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
最近我才对这些路线做了一下新的更新,知识体系更全面了。
(2)Python学习视频
包含了Python入门、爬虫、数据分析和web开发的学习视频,总共100多个,虽然没有那么全面,但是对于入门来说是没问题的,学完这些之后,你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。
(3)100多个练手项目
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了,只是里面的项目比较多,水平也是参差不齐,大家可以挑自己能做的项目去练练。
(4)200多本电子书
这些年我也收藏了很多电子书,大概200多本,有时候带实体书不方便的话,我就会去打开电子书看看,书籍可不一定比视频教程差,尤其是权威的技术书籍。
基本上主流的和经典的都有,这里我就不放图了,版权问题,个人看看是没有问题的。
(5)Python知识点汇总
知识点汇总有点像学习路线,但与学习路线不同的点就在于,知识点汇总更为细致,里面包含了对具体知识点的简单说明,而我们的学习路线则更为抽象和简单,只是为了方便大家只是某个领域你应该学习哪些技术栈。
(6)其他资料
还有其他的一些东西,比如说我自己出的Python入门图文类教程,没有电脑的时候用手机也可以学习知识,学会了理论之后再去敲代码实践验证,还有Python中文版的库资料、MySQL和HTML标签大全等等,这些都是可以送给粉丝们的东西。
这些都不是什么非常值钱的东西,但对于没有资源或者资源不是很好的学习者来说确实很不错,你要是用得到的话都可以直接抱走,关注过我的人都知道,这些都是可以拿到的。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!