Python使用css方式爬去链家网数据写入csv文档

import parsel
import requests
# from fake_useragent import UserAgent
import csv

# 列表存储地区
distriction = ['wulumuqixian', 'tianshanqu', 'jingjijishukaifaqutoutunhequ', 'xinshiqu', 'shuimogouqu', 'shayibakequ'
    , 'midongqu', 'dabanchengqu']
distriction2 = ["乌鲁木齐县", '天山区', '经济开发区(头屯河区', '新市区', '水磨沟区', '沙依巴克区', '米东区', '达坂城区']
# 获取所有区域二手房的数据

with open('./链家网数据集1.csv', 'w', newline='',encoding='utf-8') as csvfile:
    writer = csv.writer(csvfile)
    for i in range(0, len(distriction)):
        # url网址
        url = f'https://wlmq.lianjia.com/ershoufang/{distriction[i]}/'
        # 请求头部
        # header = {'UserAgent': UserAgent().random}
        # 进行请求
        response = requests.get(url)
        html_data = response.text
        # 数据解析
        selector = parsel.Selector(html_data)
        # lis = selector.css('.clear.LOGCLICKDATA')
        lt = selector.css('.resultDes.clear')
        pages=lt.css('h2 span::text').get()
        pages=int(int(pages)/30)
        for page in range(1,pages+1):
            # url网址
            url = f'https://wlmq.lianjia.com/ershoufang/{distriction[i]}/pg{page}'
            # 请求头部
            # header = {'UserAgent': UserAgent().random}
            # 进行请求
            response = requests.get(url)
            html_data = response.text
            # 数据解析
            selector = parsel.Selector(html_data)
            lis = selector.css('.clear.LOGCLICKDATA')
            print(f"-----------------------{distriction2[i]}区域---------------------第{page}页---------------------------------")
            print(f"-----------------------{distriction2[i]}区域---------------------第{page}页---------------------------------")
            print(f"-----------------------{distriction2[i]}区域---------------------第{page}页---------------------------------")
            list=[]
            for li in lis:
                List = []
                title = li.css(".title a::text").get()  # 获取标题
                address = li.css(".positionInfo a::text").getall()  # 地址
                address = address[0] + address[1]
                house = li.css(".houseInfo::text").get()    #房型
                attention = li.css(".followInfo::text").get()   #关注度
                pricewei = li.css(".totalPrice.totalPrice2 i::text").getall()[1]#万
                price = li.css(".priceInfo span::text").getall()    #房价
                price[0] = price[0] + pricewei
                List.append(title),List.append(address),List.append(house),List.append(attention),List.append(price[0]),List.append(price[1])
                print(List)
                #数据清洗
                list.append(List)
                writer.writerow(List)
            print(list)


  • 3
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值