用 Python 监控知乎和微博的热门话题，腾讯后台开发

import requests

import re

from bs4 import BeautifulSoup

headers={“User-Agent”:“”,“Cookie”:“”}

zh_url = “https://www.zhihu.com/billboard”

zh_response = requests.get(zh_url,headers=headers)

webcontent = zh_response.text

soup = BeautifulSoup(webcontent,“html.parser”)

script_text = soup.find(“script”,id=“js-initialData”).get_text()

rule = r’“hotList”😦.*?),“guestFeeds”’

result = re.findall(rule,script_text)

temp = result[0].replace(“false”,“False”).replace(“true”,“True”)

hot_list = eval(temp)

print(hot_list)

这里我利用了 script 中热榜数据的列表结构，在定位取出相关字符串后，先将 js 中的 true 和 false 转化为 Python 中的 True 和 False，最后直接通过 eval() 来将字符串转化为直接可用的数据列表。

运行代码结果如图：

至于对微博热门的解析，就是中规中矩地利用 BeautifulSoup 来对网页元素进行定位获取：

import requests

from bs4 import BeautifulSoup

url = “https://s.weibo.com/top/summary”

headers={“User-Agent”:“”,“Cookie”:“”}

wb_response = requests.get(url,headers=headers)

webcontent = wb_response.text

soup = BeautifulSoup(webcontent,“html.parser”)

index_list = soup.find_all(“td”,class_=“td-01”)

title_list = soup.find_all(“td”,class_=“td-02”)

level_list = soup.find_all(“td”,class_=“td-03”)

topic_list = []

for i in range(len(index_list)):

item_index = index_list[i].get_text(strip = True)

if item_index==“”:

item_index = “0”

item_title = title_list[i].a.get_text(strip = True)

if title_list[i].span:

item_mark = title_list[i].span.get_text(strip = True)

else:

item_mark = “置顶”

item_level = level_list[i].get_text(strip = True)

topic_list.append({“index”:item_index,“title”:item_title,“mark”:item_mark,“level”:item_level,“link”:f"https://s.weibo.com/weibo?q=%23{item_title}%23&Refer=top"})

print(topic_list)

通过解析，将微博热门数据逐条存入列表中：

后续对拿到的数据加以处理展示，即可得到很多有趣的应用或实现某些功能。例如集成诸多平台排行榜的 “今日热榜”：

因为并未展开爬虫细节，今天的总结也比较简单：

1、首先在选取要爬的网址时要给自己降低难度，例如同样是知乎热榜，zhihu.com/hot 需要登陆，而 zhihu.com/billboard 无需登录便可访问

2、解析爬取到的内容时，要结合具体页面内容选择最便捷的方式。当需要批量爬取相似页面时，也要尽量整理通用的解析策略。

完整代码

---

weibo_top.py

import requests

from bs4 import BeautifulSoup

url = “https://s.weibo.com/top/summary”

headers = {“User-Agent”: “”, “Cookie”: “”}

wb_response = requests.get(url, headers=headers)

webcontent = wb_response.text

soup = BeautifulSoup(webcontent, “html.parser”)

index_list = soup.find_all(“td”, class_=“td-01”)

title_list = soup.find_all(“td”, class_=“td-02”)

level_list = soup.find_all(“td”, class_=“td-03”)

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

_convert/21b2604bd33c4b6713f686ddd3fe5aff.png)

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-eB1Qmuka-1712841833251)]