11.15爬虫作业

一、实验环境:
Windows10系统、VsCode软件
二、实验步骤
(1)安装所需库,并导入所需库
在这里插入图片描述

(2)打开VsCode,创建.py文件,编写代码在.py文件中先编写如下代码
首先,因为我们需要爬取多个网页信息,我们进入网站https://sh.lianjia.com/zufang/点击翻页,观察规律
在这里插入图片描述
在这里插入图片描述

经对比发现,每页格式为https://sh.lianjia.com/zufang/pg+i
I为自增整数,代表页码,由此确定我们所爬取的url,编写如下代码:
在这里插入图片描述

(4)然后我们进行爬取数据,我们采用正则表达式的形式,首先通过在网页的检查,找到所需内容,
在这里插入图片描述

根据网上代码,编写正则表达式,进行爬取,代码如下:
在这里插入图片描述

(5)获得网页信息,进行解析数据,导入bs4库

采用find_all函数查找符合的字符串,并通过append()将目标字符串加入到数据中,部分代码如下:
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

(6)首先将数据存储到excel表格中,通过创建workbook对象和工作表,存储数据,代码如下:
在这里插入图片描述

得到部分数据如下:
在这里插入图片描述

(7)将数据存储到数据库,首先下载pymysql,并导入
在这里插入图片描述

创建数据库lianjia及数据表homes,创建表代码如下:
在这里插入图片描述

通过pymysql进行连接,并将数据存储到数据库,代码如下:
在这里插入图片描述

存储成功,可在数据库中查询到,效果如下:
在这里插入图片描述

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值