Python + Selenium动态房价爬虫

作者介绍：timber ，在一家电子商务(外贸)公司任职运维，平常工作时我觉得敲命令的样子也很帅    ---Python，Changed me！

个人博客地址： 

https://blog.csdn.net/weixin_42946604

前言

我这里用到了的python+selenium来抓取链家房数据，因爲很多时候分析参数，头疼啊，能分析的还好。有些网页就很变态哦，参数都是经过加密的。

selenium自动化优点(我去找了一下度娘…哈哈)，完全可以模拟人工操作网页，而且相对其他爬虫不用写请求头(偷懒)，例如直接request的，听说更容易被封(403)，我只是听说！

最后希望更大家互勉互力，一同进步！现在跟大家分享一下python selenium的小知识…

整体流程

1、安裝selenium

命令行：pip install selenium 敲回车

2、下載chromedriver插件，對應自己的版本，链接在此：

http://chromedriver.storage.googleapis.com/index.html

直接放在Python的Scripts目录下就可以不能配置变量了，而且也不用声明路径

（后面会说到）

3、安裝pyquery 一样的用到pip安装 敲回车

命令行：pip install pyquery

4、安裝pymysql

命令行：pip install pymysql 同上

5、以上安裝完成后，开始我們的骚操作了。

网页分析

我们不用声明请求头还有分析一些参数了，只要我们拿到URL，指哪爬哪！
此次抓取的数据如下：

那这些数据的提取正题就来了！
打开开发者工具，google浏览器直接挫F12

发现每个小区的售房信息都在ul下的li标签里面。直接上代码

第一步拿到html结构，然后用pyquery解析遍历li标签，我使用了items()方法

提取小区名称，找到a标签的class

提取房类的文本，span标签下面

其他的TEXT文本都是这样的方法提取
提醒的一点就是

我们这里判断一下ul的class，防止有时候网络加载的问题，导致发生错误。

模拟滚动，点击下一步操作

我们没跳转一页就滚动一下滚动条，这个有好处的哦有时候很多异步加载的，例如一下ajax加载的就是很好的例子了，查看评论的时候很多是这样的！我们来看一下

这也是个方法，根据个人不同来定义，我这里以800来滚动。
然后就是点击下一页的动作，网页有下一页的

代码实现 直接上图

一些其他的小动作，可以自己添加哦！

数据存储

我这里用mysql存放数据，上图

我提前把数据表建好了的，表名为lianjie_data，数据库名是lianjie，这里根据个人情况。
你可以写一个data_save的方法，我这里简单粗暴点从上到下直接写完了。
好了运行程序

数据展示

是不是完完全全模拟人工操作呢，其实我没加太多动作 嘻嘻
源码后续放出来，也会写一些更多的小知识更大家分享

千山万水总是情，点个「好看」行不行。

§ §

Python中文社区作为一个去中心化的全球技术社区，以成为全球20万Python中文开发者的精神部落为愿景，目前覆盖各大主流媒体和协作平台，与阿里、腾讯、百度、微软、亚马逊、开源中国、CSDN等业界知名公司和技术社区建立了广泛的联系，拥有来自十多个国家和地区数万名登记会员，会员来自以公安部、工信部、清华大学、北京大学、北京邮电大学、中国人民银行、中科院、中金、华为、BAT、谷歌、微软等为代表的政府机关、科研单位、金融机构以及海内外知名公司，全平台近20万开发者关注。

更多推荐

啥是佩奇？用Python画给你看！

隐马尔可夫模型（HMM）及Viterbi算法

深入浅出理解Python“乱码”问题

用Python爬取金融市场数据

搭建CNN模型破解网站验证码

用Python进行图文识别（OCR）

投稿邮箱：pythonpost@163.com

▼点击下方阅读原文，免费成为数据科学俱乐部会员