python爬取58同城租房信息_分页爬取58同城租房信息.py

该Python脚本用于爬取58同城北京大山子地区的租房信息,包括标题、图片、户型和价格。它首先定义请求头,然后通过requests库获取网页内容,使用正则表达式提取所需数据。数据存储为图片和Excel表格,每页信息保存在对应命名的文件夹和文件中。用户可以输入页码进行爬取,输入q退出。
摘要由CSDN通过智能技术生成

import requests,re,openpyxl,os

headers = {

'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/59.0.3071.104 Safari/537.36',

}

def crawing(page):

'''爬取指定页数的信息'''

try:

print('正在爬取第'+page+'页信息...')

url = 'http://bj.58.com/dashanzi/chuzu/pn'+page+'/?ClickID=1'

res = requests.get(url,headers=headers)

html = res.content.decode('utf-8')

except Exception as err:

print("爬取失败,原因是:"+str(err))

#定义查找标题、图片、户型、价格的正则表达式

title_pat='

.*?(.*?) '

pic_pat = 'lazy_src="(.*?)"'

room_pat = '

(.*?)     (.*?)

'

price_pat = '

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,这是一个比较具体的问题,我可以为你提供一些思路和参考代码。 首先,我们需要了解58同二手房信息的页面结构和数据请求方式。通过分析网页源代码和浏览器开发者工具,可以发现58同二手房信息的页面是采用Ajax技术加载的,数据请求方式是POST请求,请求参数中包含了市、区域、价格等筛选条件。 接下来,我们可以使用Python的requests模块发送POST请求,获二手房信息的JSON数据。然后,使用Python的json模块解析JSON数据,提出我们需要的房源信息,例如房源名称、总价、单价、房间数、面积、朝向、楼层等信息。 最后,我们可以使用Python的pandas模块将房源信息存储到CSV文件中,方便后续的数据分析和处理。 下面是一个简单的代码示例,仅供参考: ```python import requests import json import pandas as pd # 设置请求头信息 headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} # 设置POST请求参数 data = { 'PGTID': '0d100000-0000-1e9c-0d96-1d72c30b2f0e', 'ClickID': '1', 'comm_id': '0', 'created': '7', 'curPage': '1', 'datainfo': 'eyJwYWdlIjoxLCJ0eXBlIjoxLCJjaXR5IjoxLCJjYXRlZ29yeSI6IjIwMjEtMDYtMDEiLCJhbGwiOiIiLCJwYXJhbXMiOiIiLCJ1dGlsaXR5IjoiIiwic3RhdHVzIjoiIiwiYWpheCI6IiJ9', 'from': '1', 'isfirst': 'true', 'local': '1', 'order': 'time', 'over': '0', 'param': '2_1_0_0_0_0_0', 'propertytype': '1', 'room': '0', 'showMore': '1', 'shownow': '0', 'sign': 'dfc3f07bcfd1ad6c124a3d7b5fbc4c6b', 'source': 'list', 'sug': '0', 'w': '1' } # 发送POST请求,获JSON数据 url = 'https://appapi.58.com/house/listV3?' response = requests.post(url, headers=headers, data=data) json_data = json.loads(response.text) # 解析JSON数据,提房源信息 house_list = [] for item in json_data['data']['list']: house_info = {} house_info['title'] = item['title'] house_info['total_price'] = item['price'] house_info['unit_price'] = item['unitprice'] house_info['room_num'] = item['room'] house_info['area'] = item['area'] house_info['orientation'] = item['orient'] house_info['floor'] = item['floor'] house_list.append(house_info) # 将房源信息存储到CSV文件中 df = pd.DataFrame(house_list) df.to_csv('house_info.csv', index=False) ``` 这段代码可以58同二手房信息的第一页数据,并将房源信息存储到名为house_info.csv的CSV文件中。如果需要多页数据,可以通过修改POST请求参数中的curPage参数来实现。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值