爬取城市公交站点数据的一篇保姆级教程，百度Python岗一面+二面内容

此时的网址变成了：https://shenzhen.8684.cn/line1，也就是在之前链接的结尾加上上面的 href 内容

再回到我们的网页上，可以看到显示的公交路线，同样分析源码，内容如下：

处理思路如下：定位到 list clearfix 的这个div，它下面的每一个子标签（a标签）对应的都是一条公交线路，href 同样为该公交线路的链接，wbfspan 同样为名称

随便点开某一条公交线路，例如：8号线，注意看点击的时候网址栏发生的变化

此时的网址变成了：https://shenzhen.8684.cn/x_3dfcd0fb，也就是将之前的 href 内容换成了最新的 href 内容

再回到我们的网页上，这个就是我们需要爬取数据的终极目标网页：

上半部分的公交详细信息：运行时间、票价、公司、更新时间等

下半部分的公交详细站点，以及每个站点的经纬度等

---

ok，来整理一下总体思路：

• 通过城市名称构造第一类访问 url

• 访问第一类 url

• 解析该城市的公交分类，获取到想要的分类类型，构造第二类访问 url

• 访问第二类 url

• 解析分类类型的每一个公交线路，构造第三类访问 url

• 访问第三类 url

• 解析该公交路线的上、下两部分数据

• 循环第二类 -> 第三类的过程，直到爬完所有数据

解析城市的公交分类，构造第二类访问 url 的核心代码如下：

url = ‘https://shenzhen.8684.cn/’

response = requests.get(url=url, headers={‘User-Agent’: get_ua()}, timeout=10)

“”“获取数据并解析”“”

soup = BeautifulSoup(response.text, ‘lxml’)

soup_buslayer = soup.find(‘div’, class_=‘bus-layer depth w120’)

# 解析分类数据

dic_result = {}

soup_buslist = soup_buslayer.find_all(‘div’, class_=‘pl10’)

for soup_bus in soup_buslist:

name = soup_bus.find(‘span’, class_=‘kt’).get_text()

if ‘线路分类’ in name:

soup_a_list = soup_bus.find(‘div’, class_=‘list’)

for soup_a in soup_a_list.find_all(‘a’):

text = soup_a.get_text()

href = soup_a.get(‘href’)

dic_result[text] = “https://shenzhen.8684.cn” + href

print(dic_result)

上面的 dic_result 中存储的就是每一个分类的名称 text 和访问 href

对其进行遍历，即可获得每一个类型下的所有公交线路

核心代码如下：

bus_arr = []

index = 0

for key,value in dic_result.items():

print ('key: ',key,'value: ',value)

response = requests.get(url=value, headers={‘User-Agent’: get_ua()}, timeout=10)

“”“获取数据并解析”“”

soup = BeautifulSoup(response.text, ‘lxml’)

# 详细线路

soup_buslist = soup.find(‘div’, class_=‘list clearfix’)

for soup_a in soup_buslist.find_all(‘a’):

text = soup_a.get_text()

href = soup_a.get(‘href’)

title = soup_a.get(‘title’)

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

最后

Python崛起并且风靡，因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低，但它的晋级路线很多，通过它你能进入机器学习、数据挖掘、大数据，CS等更加高级的领域。Python可以做网络应用，可以做科学计算，数据分析，可以做网络爬虫，可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多，你需要学好基础，再选择明确的方向。这里给大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

👉Python所有方向的学习路线👈

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

👉Python必备开发工具👈

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

👉Python全套学习视频👈

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

👉实战案例👈

学python就与学数学一样，是不能只看书不做题的，直接看步骤和答案会让人误以为自己全都掌握了，但是碰到生题的时候还是会一筹莫展。

因此在学习python的过程中一定要记得多动手写代码，教程只需要看一两遍即可。

👉大厂面试真题👈

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

8c31c50236a205928a1d8ae8a0b883.png)

👉大厂面试真题👈

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。