利用 Python 爬取58同城品牌公寓(附带租房指南)

这篇博客分享了如何利用Python爬取58同城的品牌公寓租房信息,包括租房指南和实战步骤。通过分析网页结构,使用Requests和BeautifulSoup库抓取数据,最终将数据保存为CSV文件。博主提醒注意反爬虫机制和租房过程中的注意事项。
摘要由CSDN通过智能技术生成

时间煮雨
@R星校长

想租房的同学看过来!实用租房指南,全是过来人的经验😋#中国住房租赁人数超2亿# 怎样才能找到适合自己的“小窝”?实地看房要看些什么?签租房合同要注意哪些细节?超实用的租房指南。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

打开终端,默认进入 /home/project目录,安装需要的库:

sudo pip3 install --upgrade pip
sudo pip3 install bs4
sudo pip3 install lxml

实验原理

实验中会用到三个文件:crawl.pyrent.csvindex.html,其中:

  • crawl.py 是一个非常简单的爬取网页的脚本。
  • rent.csvcrawl.py生成,是房源文件。

实现的流程大致如下:

在这里插入图片描述

我为什么不把 js代码和 css代码从index.html中分出来呢,写脚本怎么顺手怎么来就好。

代码没有难度,主要就是看看几个 API 如何使用,下面给出文档链接:

先分析一下我们需要爬取的页面:https://bj.58.com/pinpaigongyu/

选择好目标价位:

在这里插入图片描述

按 F12 键或右键点击检查分析元素:

在这里插入图片描述
我们发现所有的租房信息都是一个 li 标签,并且都位于 ul 标签下,当我们往下移的时候,相应的标签也会越来越多,所以我们便可以利用有无 list 类来判定是否为租房请求。当然,这是在没有任何条件获取到的全部信息,但很多信息我们是不会看的,既然有租房的意愿,那么我们就有一个大致的心理承受价格,因此我们可以来分析一下该网站的 url 构造形式,大致了解了它的路径规则:/pingpaigo

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【为什么学虫?】        1、虫入手容易,但是深入较难,如何写出高效率的虫,如何写出灵活性高可扩展的虫都是一项技术活。另外在虫过程中,经常容易遇到被反虫,比如字体反、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能学到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓数据。数据解析:将请求下来的数据进行过滤,提我们想要的数据。数据存储:将提到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领学生完整的掌握每个步骤的技术。另外,因为虫的多样性,在的过程中可能会发生被反、效率低下等。因此我们又增加了两个章节用来提高虫程序的灵活性,分别是:虫进阶:包括IP代理,多线程虫,图形验证码识别、JS加密解密、动态网页虫、字体反识别等。Scrapy和分布式虫:Scrapy框架、Scrapy-redis组件、分布式虫等。通过虫进阶的知识点我们能应付大量的反网站,而Scrapy框架作为一个专业的虫框架,使用他可以快速提高我们编写虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式虫让多台机器帮助你快速数据。 从基础虫到商业化应用虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值