python 使用bs4 解析html页面
前言
前几天要复制一整个html页面的内容到excel表格里,我觉得复制太麻烦所以写一个爬虫自动爬数据简单快捷,页面爬下来以后想获取html标签中的数据结果没有找到比较好的办法所以我就自己研究并整理发上来
页面是这个样子的,我们可以看到这个页面大体分为四个部分,而我想要页面上的所有数据,所以我也根据他这四个部分一点点的解析
接下来看一下页面的源代码
从这个图我们可以看出整个页面分为两部分
上面(1)部分为导航栏在<nav>
标签中,(2)部分为详情,包括基本信息,楼盘规划和预售许可证在class="detail"的div
标签中
那我们先看导航栏
导航栏被放在
#首先获取整个页面,这里我使用的是urllib,
import urllib.request as request
req = request.urlopen(url) #url为你想获取的页面的url
index = req.read(