python+selenium统计CSDN博客（上）：统计阅读量

由于CSDN改版，本文有些过时，请移步Python玩转CSDN，用selenium统计博客的阅读量

爬取博客目录

这个功能是比较容易实现的，按理说一个人的所有文章都在博客主页，每篇文章的标题大致如下

<div data-v-6fe2b6a7="" class="blog-list-box-top">
    <h4 data-v-6fe2b6a7="">
        耗时一个月对Python标准库20多个模块的整理
    </h4>
</div>

文章标题为耗时一个月对Python标准库20多个模块的整理，其class为blog-list-box-top。

接下来通过selenium进入该页面。

from selenium import webdriver
url = 'https://blog.csdn.net/m0_37816922?type=blog'
driver = webdriver.Edge()
driver.get(url)

然后查找class，如果使用find_element的方法，则只显示第一个匹配对象，

>>> Title = driver.find_element_by_class_name('blog-list-box-top')
>>> print(Title.text)
【Python标准库textwrap】对段落文本进行格式化

如果采用find_elements，则可定位所有文章，从而得到当前页所有文章的标题。

>>> titleClass = 'blog-list-box-top'
>>> for T in driver.find_elements_by_class_name(titleClass):
...   print(T.text)
...
【Python标准库textwrap】对段落文本进行格式化
python将文件名改为文件夹名
一文学会Android布局
耗时一个月对Python标准库20多个模块的整理
【python标准库】json
【python标准库】读取和保存csv文件
【python标准库】如何打出字符π
python命令行版2048小游戏
#。。。

然而这个页面采用了无限滚动，所以并没有得到我的全部博文。这时先滚动一下试试

driver.execute_script("window.scrollTo(0,document.body.scrollHeight)")

这回再寻找相应的元素，则果然内容变多了。

可以通过元素个数来确认滚动条是否已经到底，即

import time
titleClass = 'blog-list-box-top'
script = "window.scrollTo(0,document.body.scrollHeight)"
Titles = driver.find_elements_by_class_name(titleClass)
oldLen, newLen = 0, len(Titles)
while oldLen!=newLen:
    driver.execute_script(script)
    time.sleep(2)   #发出命令后等待2秒
    Titles = driver.find_elements_by_class_name(titleClass)
    oldLen, newLen = newLen, len(Titles)

运行结束后，获取了165篇博客。

>>> len(Titles)
165

每篇博客

接下来就是摘取每篇博客的信息，博客中，除了标题之外还有阅读量、点赞以及评论量。

<div data-v-6fe2b6a7="" class="view-num-box">
    <span data-v-6fe2b6a7="" class="view-num">
        91<span data-v-6fe2b6a7="" class="two-px">&nbsp;阅读&nbsp;·</span>
    </span>
</div> 
<div data-v-6fe2b6a7="" class="give-like-box">
    <span data-v-6fe2b6a7="" class="give-like-num">
        5<span data-v-6fe2b6a7="" class="two-px">&nbsp;点赞&nbsp;·</span>
    </span></div>
<div data-v-6fe2b6a7="" class="comment-box">
    <span data-v-6fe2b6a7="" class="comment-num">0<span data-v-6fe2b6a7="" class="two-px">&nbsp;评论</span>
    </span>
</div>

可以看到数量和描述之间有一个空格，可split之后再转化为数字。

titleClass = 'blog-list-box-top'
viewClass = 'view-num'
likeClass = 'give-like-num'
commentClass = 'comment-num'
Titles = [t.text for t in driver.find_elements_by_class_name(titleClass)]
Views = [int(v.text.split(' ')[0]) for v in driver.find_elements_by_class_name(viewClass)]
Likes = [int(L.text.split(' ')[0]) for L in driver.find_elements_by_class_name(likeClass)]
Comments = [int(c.text.split(' ')[0]) for c in driver.find_elements_by_class_name(commentClass)]

得到所有博文的数据之后，接下来就要展示这些数据了，好在博客不多，故可以导入到excel中，毕竟所见即所得，这里使用python内置的csv模块

import csv
f = open('blog.csv','w',newline='')
w = csv.writer(f)
for i in range(len(Titles)):
    w.writerow([Titles[i],Views[i],Likes[i],Comments[i]])

剩下的通过excel就可以进行统计，最终得到博客的总阅读量为221.22k，平均阅读量为1340；平均点赞5.25个；平均评论1条……实在是太可怜了

每篇博客的阅读量如下，的确是拖着长长的尾巴

尽管看上去尾巴很长，但到底服从帕累托还是服从长尾，这个还得计算一下。

所谓帕累托法则，就是百分之二十的博文占据了百分之八十的阅读量。由于总博客为165篇，则其五分之一为33，则前33篇文章的总阅读量为161891，占了总阅读量的73%，尽管没到80%，但也差不多了。

其分布如下，横轴为阅读量区间，纵轴为文章数，果然大部分的阅读量都在250以内……太可怜了

如果想统计一下收藏量，请看过python+selenium统计CSDN博客（下）：统计收藏量