打开一个关注者的微博页面,打开开发者工具,选择图中两个地方
刷新页面,向下滚动,中途会出现正在加载,直到最后会出现下一页,
这时看开发者工具,这时真正请求的URL才出现
然后找到Cookies,复制修改成字典形式复制到如下代码中
import requests
import json
from bs4 import BeautifulSoup
url = '此处填入URL'
cookiess = {'Cookie':'此处填入Cookies'}
r = requests.get(url,cookies = cookiess)
r.encoding = r.apparent_encoding
Data = json.loads(r.text)
#现在Data就是我们在开发者工具Preview里面的
# Data['data']全部是标签
htmlstr = Data['data']
# if '第一周' in htmlstr:
# print('yes')
# else:
# print('no')
bsObj = BeautifulSoup(htmlstr,'html.parser')
title = bsObj.find_all('div',{'class':'WB_text W_f14'})
#测试一下是什么类型,ResultSet需要迭代
# print(type(title))
for i in title:
print(i.string)
print(i.get_text(),end='')
爬取出来的内容不知怎么回事出现了许多空格,先手动保存一下吧,以后有了好的方法,再来更新下文章.
假设我们将爬取的内容保存到了weibo.txt,我们新建一个文件用来制作词云
import matplotlib.pyplot as plt
from wordcloud import WordCloud
import numpy as np
import PIL.Image as Image
import jieba
#要制作的源文件的路径
text_from_file_with_apath = open('C:\\Users\\asus\\Desktop\\weibo.txt').read()
wordlist = jieba.cut(text_from_file_with_apath,cut_all= True)
#" ".join()将刚才的wordlist转换为字符串,通过type()函数发现wordlist是生成器类型
word_space_split = " ".join(wordlist)
#这是词云的背景图
coloring = np.array(Image.open("C:/Users/asus/Pictures/公主.png"))
#mask用于设置背景图
my_wordcloud = WordCloud(background_color="white",max_words=2000,
mask = coloring,max_font_size=60,random_state=42,scale=2,
font_path="C:/Windows/Fonts/MSYH.TTC").generate(word_space_split)
plt.imshow(my_wordcloud)
plt.axis("off")
plt.show()