Python分析香港26281套在售二手房数据，java面试题 spring生命周期

相关性分析

从相关系数表和回归图来看，间隔（即居室）和楼龄都与香港二手房房价无明显的相关性。实用面积与房价具有较强的正相关性，一般来说，人们在看房子时看到的面积是建筑面积，但却不是实用面积。套内建筑面积＝套内使用面积＋套内墙体面积＋阳台面积，而实用面积就是套内使用面积。另外，实用率与房价也无相关性，这与大部分人的感性认识存在偏差。

技术实现

---

本文数据来源于中原地产，网页结构相对简单。数据清洗主要用到Python的pandas库，由于内容较多，仅提供核心字段清洗代码。数据可视化主要用到Python的pyecharts库，都是一些基础图表，本公众号往期原创文章也已多次提及。

数据获取

爬虫核心代码

#将繁体转换成简体

def tradition2simple(line):

return Converter(‘zh-hans’).convert(line)

#解析网页

def get_page(page):

if page <11:

url = ‘http://hk.centanet.com/findproperty/BLL/Result_SearchHandler.ashx?url=http%3A%2F%2Fhk.centanet.com%2Ffindproperty%2Fzh-HK%2FHome%2FSearchResult%3Fposttype%3DS%26src%3DC%26minprice%3D%26maxprice%3D%26sortcolumn%3D%26sorttype%3D%26limit%3D100%26currentpage%3D{0}’.format(page)

else:

url = ‘http://hk.centanet.com/findproperty/BLL/Result_SearchHandler.ashx?url=http%3A%2F%2Fhk.centanet.com%2Ffindproperty%2Fzh-HK%2FHome%2FSearchResult%3Fposttype%3DS%26src%3DC%26minprice%3D%26maxprice%3D%26sortcolumn%3D%26sorttype%3D%26limit%3D-1%26currentpage%3D{0}’.format(page)

req = requests.get(url, headers = headers)

bs = req.json()

print(bs)

ts = tradition2simple(bs[‘post’])

print(ts)

html = etree.HTML(ts)

if name == ‘main’:

ua = UserAgent(verify_ssl=False)

headers = {“User-Agent”: ua.random}

for page in range(1,2624): #共2623页

get_page(page)

time.sleep(1)

print(“第%d页爬取完成”%page)

print(‘-’*100)

数据预览

数据清洗

建筑面积/单价

#异常字符替换为空

df[“建筑面积”] = df[“建筑面积”].str.replace(“,”,“”).astype(“float”)

df[“建面单价”] = df[“建面单价”].str.replace(“$”,“”).str.replace(“,”,“”).str.replace(“/呎”,“”).astype(“float”)

#建筑面积和建面单价缺失值用均值填充

df = df.fillna(value={‘建筑面积’:df[“建筑面积”].mean(),‘建面单价’:df[“建面单价”].mean()})

间隔

存在缺失值、换行符、非数字型、无房间数等脏数据

df[“间隔”] = df[“间隔”].str.replace(“\r\n”,“”).str[:1]

df = df[ ~ df[‘间隔’].isin([‘(’])] #删除某列包含特殊字符的行

df[“间隔”] = df[“间隔”].str.replace(“开”,“0”).astype(“float”)

df = df.fillna(value={‘间隔’:df[“间隔”].mean()})

df[“间隔”] = df[“间隔”].astype(“int”)

售价

#售价单位存在万和亿，进行统一化处理

df[“售价”] = (df[“售价”].str.replace(“$”,“”).str.replace(“,”,“”).str[:-1].astype(float) * df[‘售价’].str[-1].map({“万”: 1, “亿”: 10000})).astype(“int”)

数据可视化

回归图

fig,axes=plt.subplots(5,1,figsize=(12,30))

sns.regplot(x=‘间隔’,y=‘实用单价’,data=df1,color=‘green’,marker=‘*’,ax=axes[0])

sns.regplot(x=‘楼龄’,y=‘实用单价’,data=df1,color=‘green’,marker=‘*’,ax=axes[1])

sns.regplot(x=‘实用面积’,y=‘实用单价’,data=df1,color=‘green’,marker=‘*’,ax=axes[2])

sns.regplot(x=‘建筑面积’,y=‘实用单价’,data=df1,color=‘green’,marker=‘*’,ax=axes[3])

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

现在能在网上找到很多很多的学习资源，有免费的也有收费的，当我拿到1套比较全的学习资源之前，我并没着急去看第1节，我而是去审视这套资源是否值得学习，有时候也会去问一些学长的意见，如果可以之后，我会对这套学习资源做1个学习计划，我的学习计划主要包括规划图和学习进度表。

分享给大家这份我薅到的免费视频资料，质量还不错，大家可以跟着学习

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

og.csdnimg.cn/img_convert/21b2604bd33c4b6713f686ddd3fe5aff.png)

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-KZDS10MK-1712747642351)]