项目二-房租

import csv
import requests
from fake_useragent import UserAgent  # 确保你已经安装了fake_useragent库
from lxml import etree

# 打开CSV文件以写入数据
with open('zufang.csv', mode='w', newline='', encoding='utf-8') as f:
    writer = csv.DictWriter(f, fieldnames=['地区', '小区', '简介', '月租'])
    writer.writeheader()
    # 创建一个UserAgent对象
    ua = UserAgent()
    # 循环抓取每一页的数据
    for page in range(1, 10):
        url = f"https://bj.lianjia.com/zufang/pg{page}/"
        headers = {"User-Agent": ua.random}
        try:
            # 发送GET请求
            response = requests.get(url, headers=headers)
            response.raise_for_status()  # 如果响应状态码不是200,就主动抛出异常
            # 解析HTML内容
            html = etree.HTML(response.text)
            data = html.xpath('//div[@class="content__list--item"]')  # 注意:类名可能已经改变,需要检查实际的HTML结构
            # 遍历每个房源,提取信息并写入CSV文件
            for item in data:
                d = {}
                d['地区'] = item.xpath('.//p[@class="content__list--item--des"]/a[1]/text()')[0].strip() if item.xpath('.//p[@class="content__list--item--des"]/a[1]/text()') else ''
                d['小区'] = item.xpath('.//p[@class="content__list--item--des"]/a[3]/text()')[0].strip() if item.xpath('.//p[@class="content__list--item--des"]/a[3]/text()') else ''
                d['简介'] = ''.join(item.xpath('.//p[@class="content__list--item--des"]/text()')).strip() if item.xpath('.//p[@class="content__list--item--des"]/text()') else ''
                d['月租'] = item.xpath('.//span[@class="content__list--item-price"]/em/text()')[0].strip() if item.xpath('.//span[@class="content__list--item-price"]/em/text()') else ''
                # 写入CSV文件
                writer.writerow(d)
                print(d)
        except requests.RequestException as e:
            print(f"网络请求错误: {e}")
        except Exception as e:
            print(f"发生错误: {e}")
print("[*]任务完成,房屋数据保存成功!")

保存到docs中,保存到excle中。

  • 7
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

斜躺青年

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值