爬取贝壳网深圳二手房实战

本文详细记录了爬取深圳龙岗区3000条二手房数据的完整过程,包括导入所需库、解析网页、确定爬取内容、使用正则表达式处理数据,以及将数据保存到Excel表格。主要涉及网页翻页、房子名称、位置、价格、单价等信息的爬取,特别针对复杂格式的房产详细信息进行了正则表达式的清洗和切割,以便于后续的数据预测分析。
摘要由CSDN通过智能技术生成

       完整走一遍从数据爬取下来到完成数据预测的流程,这次先把爬取数据整出来。爬取的内容是深圳龙岗区的二手房数据,一共有3000条。

- 先把要用的包导进来

import re
import xlwt
import requests
import collections
from bs4 import BeautifulSoup

- 解析网站
       由于每个页面的链接都是pg+页数,所以这里再解析网站的时候直接对翻页爬取也做了处理
在这里插入图片描述

page = 1 
longgang_url = 'https://sz.ke.com/ershoufang/longgangqu/pg'
pre_url = longgang_url+str(page)
html = requests.get(pre_url).text
house = BeautifulSoup(html,'html.parser')

- 确定爬取网页内容
       红色框圈主的为此次要爬取的内容,这部分最难的还是“中楼层 (共30层) 5室2厅 | 165.61平米 | 南”,因为我想把这一整条标签切割成一段一段的格式,方便后期数据预测要使用这个特征。
在这里插入图片描述
- 查看所需爬取内容对应的标签并实现爬取

       接下来的爬取内容均在for循环里面,此处的循环是针对翻页的循环(一共有100页)。

for page in range(101):
  1. 房子名称对应的标签如下

在这里插入图片描述
       爬取内容如下

name=[]
#房名
pre_name = house.find_all('a', class_='VIEWDATA CLICKDATA maidian-detail')
for each in pre_name:
	name.append(each.text)
  1. 房子位置对应的标签如下

在这里插入图片描述
       爬取内容如下,如果不做正则表达式匹配处理的话会遇到下面这种情况,严重影响美观。
在这里插入图片描述
       所以这边用正则表达式来匹配我们需要的文字信息,匹配处理完的数据是个列表,所以我们还需要把列表中的数据取出来再插入position的列表里。

position=
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值