else:
myMood[“Mood_cont”] = “”
if re.findall(‘“created_time”😦\d+)’, text):
created_time = re.findall(‘“created_time”😦\d+)’, text)[0]
temp_pubTime = datetime.datetime.fromtimestamp(int(created_time))
temp_pubTime = temp_pubTime.strftime(“%Y-%m-%d %H:%M:%S”)
dt = temp_pubTime.split(’ ')
time = dt[1]
myMood[‘time’] = time
date = dt[0]
myMood[‘date’] = date
if re.findall(‘“source_name”:“(.*?)”’, text):
source_name = re.findall(‘“source_name”:“(.*?)”’, text)[0] # 获取发表的工具(如某手机)
myMood[‘tool’] = source_name
if re.findall(‘“pos_x”:“(.*?)”’, text):#获取经纬度坐标
pos_x = re.findall(‘“pos_x”:“(.*?)”’, text)[0]
pos_y = re.findall(‘“pos_y”:“(.*?)”’, text)[0]
if pos_x:
myMood[‘pos_x’] = pos_x
if pos_y:
myMood[‘pos_y’] = pos_y
idname = re.findall(‘“idname”:“(.*?)”’, text)[0]
myMood[‘idneme’] = idname
cmtnum = re.findall(‘“cmtnum”😦.*?),’, text)[0]
myMood[‘cmtnum’] = cmtnum
return myMood#返回一个字典
我们想要的东西已经提取出来了,接下来需要设计数据表,通过navicat可以很方便的建表,然后通过python连接mysql数据库,写入数据。这是创建数据表的sql代码
CREATE TABLE mood
(
name
varchar(80) DEFAULT NULL,
date
date DEFAULT NULL,
content
text,
comments_num
int(11) DEFAULT NULL,
time
time DEFAULT NULL,
tool
varchar(255) DEFAULT NULL,
id
varchar(255) NOT NULL,
sitename
varchar(255) DEFAULT NULL,
pox_x
varchar(30) DEFAULT NULL,
pox_y
varchar(30) DEFAULT NULL,
isTransfered
double DEFAULT NULL,
PRIMARY KEY (id
)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
其实到这里爬虫的主要的代码就算完了,之后主要是通过QQ邮箱的联系人导出功能,构建url列表,最后等着它运行完成就可以了。这里我单线程爬200多个好友用了大约三个小时,拿到了十万条说说。下面是爬虫的主体代码。
#从csv文件中取qq号,并保存在一个列表中
csv_reader = csv.reader(open(‘qq.csv’))
friend=[]
for row in csv_reader:
friend.append(row[3])
friend.pop(0)
friends=[]
for f in friend:
f=f[:-7]
friends.append(f)
headers={
‘Host’: ‘h5.qzone.qq.com’,
‘User-Agent’: ‘Mozilla/5.0 (Windows NT 6.1; WOW64; rv:53.0) Gecko/20100101 Firefox/53.0’,
‘Accept’: ‘/’,
‘Accept-Language’:‘zh-CN,zh;q=0.8,en-US;q=0.5,en;q=0.3’,
‘Accept-Encoding’: ‘gzip, deflate, br’,
‘Referer’: ‘https://user.qzone.qq.com/790178228?t=0.22746974226377736’,
‘Connection’:‘keep-alive’
}#伪造浏览器头
conn = MySQLdb.connect(‘localhost’, ‘root’, ‘123456’, ‘qq_mood’, charset=“utf8”, use_unicode=True)#连接mysql数据库
cursor = conn.cursor()#定义游标
cookie,gtk,qzonetoken=QRlogin#通过登录函数取得cookies,gtk,qzonetoken
s=requests.session()#用requests初始化会话
for qq in friends:#遍历qq号列表
for p in range(0,1000):
pos=p*20
params={
‘uin’:qq,
‘ftype’:‘0’,
‘sort’:‘0’,
‘pos’:pos,
‘num’:‘20’,
‘replynum’:‘100’,
‘g_tk’:gtk,
‘callback’:‘_preloadCallback’,
‘code_version’:‘1’,
‘format’:‘jsonp’,
‘need_private_comment’:‘1’,
‘qzonetoken’:qzonetoken
}
response=s.request(‘GET’,‘https://h5.qzone.qq.com/proxy/domain/taotao.qq.com/cgi-bin/emotion_cgi_msglist_v6’,params=params,headers=headers,cookies=cookie)
print(response.status_code)#通过打印状态码判断是否请求成功
text=response.text#读取响应内容
if not re.search(‘lbs’, text):#通过lbs判断此qq的说说是否爬取完毕
print(‘%s说说下载完成’% qq)
break
textlist = re.split(‘{“certified”’, text)[1:]
for i in textlist:
myMood=parse_mood(i)
‘’‘将提取的字段值插入mysql数据库,通过用异常处理防止个别的小bug中断爬虫,开始的时候可以先不用异常处理判断是否能正常插入数据库’‘’
try:
insert_sql = ‘’’
insert into mood(id,content,time,sitename,pox_x,pox_y,tool,comments_num,date,isTransfered,name)
VALUES (%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,%s)
‘’’
cursor.execute(insert_sql, (myMood[‘id’],myMood[“Mood_cont”],myMood[‘time’],myMood[‘idneme’],myMood[‘pos_x’],myMood[‘pos_y’],myMood[‘tool’],myMood[‘cmtnum’],myMood[‘date’],myMood[“isTransfered”],myMood[‘name’]))
conn.commit()
except:
pass
print(‘说说全部下载完成!’)
下面是爬取的数据,有100878条!(没想到居然有这么多)
拿到数据后,我先用sql进行聚合分析,然后通过ipython作图,将数据可视化。
统计一年之中每天的说说数目,可以发现每年除夕这一天是大家发说说最多的一天(统计了2013到2017年)
通过两个辅助表,可以看到分年,分月,分小时段统计的说说数目,下面是代码和数据图
其余的几个图代码都是类似的,我就不重复发了。(其实主要是cmd里面复制代码太不方便了,建议大家用ipython notebook)
额,可以看出2014年9月达到了一个高峰,主要是因为我的朋友大都是是2014年九月大学入学的,之后开始下降,这可能是好多人开始玩微信,逐渐放弃了QQ,通过下面这个年变化图可以更直观的看出
通过这个每小时段说说发表的数目柱形图,可以发现大家在晚上22点到23点左右是最多的,另外中午十二点到一点也有一个小高峰
tool发表说说用的工具这个字段的数据比较脏,因为发表工具可以由用户自定义。最后我用Excel的内容筛选功能,做了一个手机类型的饼图
通过这个饼图可以看出使用最多的手机是苹果,小米,魅族,华为这四个手机品牌。(这个结果有很大的因素是因为我的好友大多数学生党,偏向于性价比高的手机)
还有一个比较好玩的就是把经纬度信息导出来,通过智图GeoQ | 位置智能平台可以生成一个地图,这个地图的效果还是非常好的(2000条数据免费,本来有位置信息的说说有3500条,剔除了国外的坐标后我从中随机选了2000条)
因为涉及到个人隐私问题,这个地图的链接就不分享了。
最后,通过将mood表中的content字段导出为txt文本文件,利用python的jieba和wordcloud这两个第三方库,可以生成基于说说内容的词云。下面是代码
#coding:utf-8
import matplotlib.pyplot as plt
from wordcloud import WordCloud,ImageColorGenerator,STOPWORDS
import jieba
import numpy as np
from PIL import Image
#读入背景图片
abel_mask = np.array(Image.open(“qq.jpg”))
#读取要生成词云的文件
text_from_file_with_apath = open(‘mood.txt’,encoding=‘utf-8’).read()
#通过jieba分词进行分词并通过空格分隔
wordlist_after_jieba = jieba.cut(text_from_file_with_apath, cut_all = True)
stopwords = {‘转载’,‘内容’,‘em’,‘评语’,‘uin’,‘nick’}
seg_list = [i for i in wordlist_after_jieba if i not in stopwords]
wl_space_split = " ".join(seg_list)
#my_wordcloud = WordCloud().generate(wl_space_split) 默认构造函数
my_wordcloud = WordCloud(
background_color=‘black’, # 设置背景颜色
mask = abel_mask, # 设置背景图片
max_words = 250, # 设置最大现实的字数
stopwords = STOPWORDS, # 设置停用词
font_path = ‘C:/Windows/fonts/simkai.ttf’,# 设置字体格式,如不设置显示不了中文
max_font_size = 42, # 设置字体最大值
random_state = 40, # 设置有多少种随机生成状态,即有多少种配色方案
scale=1.5,
mode=‘RGBA’,
relative_scaling=0.6
).generate(wl_space_split)
最后
不知道你们用的什么环境,我一般都是用的Python3.6环境和pycharm解释器,没有软件,或者没有资料,没人解答问题,都可以免费领取(包括今天的代码),过几天我还会做个视频教程出来,有需要也可以领取~
给大家准备的学习资料包括但不限于:
Python 环境、pycharm编辑器/永久激活/翻译插件
python 零基础视频教程
Python 界面开发实战教程
Python 爬虫实战教程
Python 数据分析实战教程
python 游戏开发实战教程
Python 电子书100本
Python 学习路线规划
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!