本项目目的是获取Airbnb深圳前五页的短租房源数据。
目标网址:Airbnb深圳短租数据
一、分析网站HTML代码标签
1、在网页任意地方右击鼠标 > 检查
2、找到“房子所有数据”对应的HTML代码
找到房子所有数据的地址为:div.gigle7
3、找到“房子价格”对应的HTML代码
找到房子价格的地址为:span.krjbj
4、找到“房子分数,房子评论数”对应的HTML代码
找到房子分数,房子评论数的地址为:span._1clmxfj
5、找到“房子名称”对应的HTML代码
找到房子名称的地址为:div._qrfr9x5
6、找到“房子类型、房间数量”对应的HTML代码
找到房子类型、房间数量的地址为:span._faldii7
二、编写爬取代码
1、使用selenium获取Airbnb第一页的数据
from selenium import webdriver
import time
driver = webdriver.Firefox()
#我已将其配置到环境变量中,若读者没有,请在上面括号中加入你电脑中geckodriver.exe程序的地址
#在虚拟浏览器中打开 Airbnb 页面
driver