由于CSDN改版,本文有些过时,请移步Python玩转CSDN,用selenium统计博客的阅读量
爬取博客目录
这个功能是比较容易实现的,按理说一个人的所有文章都在博客主页,每篇文章的标题大致如下
<div data-v-6fe2b6a7="" class="blog-list-box-top">
<h4 data-v-6fe2b6a7="">
耗时一个月对Python标准库20多个模块的整理
</h4>
</div>
文章标题为耗时一个月对Python标准库20多个模块的整理
,其class
为blog-list-box-top
。
接下来通过selenium进入该页面。
from selenium import webdriver
url = 'https://blog.csdn.net/m0_37816922?type=blog'
driver = webdriver.Edge()
driver.get(url)
然后查找class
,如果使用find_element的方法,则只显示第一个匹配对象,
>>> Title = driver.find_element_by_class_name('blog-list-box-top')
>>> print(Title.text)
【Python标准库textwrap】对段落文本进行格式化
如果采用find_elements
,则可定位所有文章,从而得到当前页所有文章的标题。
>>> titleClass = 'blog-list-box-top'
>>> for T in driver.find_elements_by_class_name(titleClass):
... print(T.text)
...
【Python标准库textwrap】对段落文本进行格式化
python将文件名改为文件夹名
一文学会Android布局
耗时一个月对Python标准库20多个模块的整理
【python标准库】json
【python标准库】读取和保存csv文件
【python标准库】如何打出字符π
python命令行版2048小游戏
#。。。
然而这个页面采用了无限滚动,所以并没有得到我的全部博文。这时先滚动一下试试
driver.execute_script("window.scrollTo(0,document.body.scrollHeight)")
这回再寻找相应的元素,则果然内容变多了。
可以通过元素个数来确认滚动条是否已经到底,即
import time
titleClass = 'blog-list-box-top'
script = "window.scrollTo(0,document.body.scrollHeight)"
Titles = driver.find_elements_by_class_name(titleClass)
oldLen, newLen = 0, len(Titles)
while oldLen!=newLen:
driver.execute_script(script)
time.sleep(2) #发出命令后等待2秒
Titles = driver.find_elements_by_class_name(titleClass)
oldLen, newLen = newLen, len(Titles)
运行结束后,获取了165篇博客。
>>> len(Titles)
165
每篇博客
接下来就是摘取每篇博客的信息,博客中,除了标题之外还有阅读量、点赞以及评论量。
<div data-v-6fe2b6a7="" class="view-num-box">
<span data-v-6fe2b6a7="" class="view-num">
91<span data-v-6fe2b6a7="" class="two-px"> 阅读 ·</span>
</span>
</div>
<div data-v-6fe2b6a7="" class="give-like-box">
<span data-v-6fe2b6a7="" class="give-like-num">
5<span data-v-6fe2b6a7="" class="two-px"> 点赞 ·</span>
</span></div>
<div data-v-6fe2b6a7="" class="comment-box">
<span data-v-6fe2b6a7="" class="comment-num">0<span data-v-6fe2b6a7="" class="two-px"> 评论</span>
</span>
</div>
可以看到数量和描述之间有一个空格,可split之后再转化为数字。
titleClass = 'blog-list-box-top'
viewClass = 'view-num'
likeClass = 'give-like-num'
commentClass = 'comment-num'
Titles = [t.text for t in driver.find_elements_by_class_name(titleClass)]
Views = [int(v.text.split(' ')[0]) for v in driver.find_elements_by_class_name(viewClass)]
Likes = [int(L.text.split(' ')[0]) for L in driver.find_elements_by_class_name(likeClass)]
Comments = [int(c.text.split(' ')[0]) for c in driver.find_elements_by_class_name(commentClass)]
得到所有博文的数据之后,接下来就要展示这些数据了,好在博客不多,故可以导入到excel中,毕竟所见即所得,这里使用python内置的csv
模块
import csv
f = open('blog.csv','w',newline='')
w = csv.writer(f)
for i in range(len(Titles)):
w.writerow([Titles[i],Views[i],Likes[i],Comments[i]])
剩下的通过excel就可以进行统计,最终得到博客的总阅读量为221.22k,平均阅读量为1340;平均点赞5.25个;平均评论1条……实在是太可怜了
每篇博客的阅读量如下,的确是拖着长长的尾巴
尽管看上去尾巴很长,但到底服从帕累托还是服从长尾,这个还得计算一下。
所谓帕累托法则,就是百分之二十的博文占据了百分之八十的阅读量。由于总博客为165篇,则其五分之一为33,则前33篇文章的总阅读量为161891,占了总阅读量的73%,尽管没到80%,但也差不多了。
其分布如下,横轴为阅读量区间,纵轴为文章数,果然大部分的阅读量都在250以内……太可怜了
如果想统计一下收藏量,请看过python+selenium统计CSDN博客(下):统计收藏量