如何爬取CSDN全站综合热榜标题，顺便统计关键词词频 ｜ 爬虫案例

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Python全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Python知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024c （备注Python）

正文

#!/usr/bin/env python3

-- coding: utf-8 --

“”"

Created on Thu Nov 4 17:15:06 2021

@author: huyi

“”"

from selenium import webdriver

import time

=============================================================================

爬取动态下滑加载网页

=============================================================================

def pa(url):

driver = webdriver.Chrome(‘/usr/local/bin/chromedriver’)

driver.get(url)

js = ‘’’

let height = 0

let interval = setInterval(() => {

window.scrollTo({

top: height,

behavior: “smooth”

});

height += 500

}, 500);

setTimeout(() => {

clearInterval(interval)

}, 20000);

‘’’

driver.execute_script(js)

time.sleep(20)

source = driver.page_source

driver.close()

return source

代码说明

1、代码主要是一个工具方法，使用diver打开浏览器。然后通过js代码，模拟向下滚动的操作。

2、根据你的网络条件，里面的超时时间你可以调整。避免还没有滚动到最下面就结束了，因为我宾馆的网比较卡，所以设置的比较大。

3、返回页面源码，为了后面的xpath解析。

验证一下

OK,已经拿到了页面源码了。

关键词提取代码

=======

我们把关键词提取的方法也准备一下。不废话，上代码。

#!/usr/bin/env python3

-- coding: utf-8 --

“”"

Created on Thu Nov 4 21:53:22 2021

@author: huyi

“”"

import jieba.analyse

def get_key_word(sentence):

result_dic = {}

words_lis = jieba.analyse.extract_tags(

sentence, topK=3, withWeight=True, allowPOS=())

for word, flag in words_lis:

if word in result_dic:

result_dic[word] += 1

else:

result_dic[word] = 1

return result_dic

代码说明

1、简单说明一下，方法取的是权重最高的3个词，可以按照你的喜欢调整。

2、把相同的词做一个计数，方便把100的标题关键词词频统计用。

主程序代码

=====

主程序主要是将源码中的标题，使用lxml进行元素提取，获取标题。然后词频统计后输出结果文本。

不废话，上代码。

#!/usr/bin/env python3

-- coding: utf-8 --

“”"

Created on Thu Nov 4 14:01:38 2021

@author: huyi

“”"

from lxml import etree

from tools.dynamic_page import pa

from tools.analyse_word import get_key_word

csdn_url = ‘https://blog.csdn.net/rank/list’

source = etree.HTML(pa(csdn_url))

titles = source.xpath(“//div[@class=‘hosetitem-title’]/a/text()”)

key_word_dic = {}

for x in titles:

if x:

for k, v in get_key_word(x).items():

if k.lower() in key_word_dic:

key_word_dic[k.lower()] += v

else:

key_word_dic[k.lower()] = v

word_count_sort = sorted(key_word_dic.items(),

感谢每一个认真阅读我文章的人，看着粉丝一路的上涨和关注，礼尚往来总是要有的：

①　2000多本Python电子书（主流和经典的书籍应该都有了）

②　Python标准库资料（最全中文版）

③　项目源码（四五十个有趣且经典的练手项目及源码）

④　Python基础入门、爬虫、web开发、大数据分析方面的视频（适合小白学习）

⑤ Python学习路线图（告别不入流的学习）

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
）

⑤ Python学习路线图（告别不入流的学习）

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024c （备注python）
[外链图片转存中…(img-7QKcVV5i-1713552054915)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！