爬虫 -- 天天基金网数据简单爬取

目标 — 简单获取天天基金网站的基金数据

![获取天天基金网站中基金数据,(https://img-blog.csdnimg.cn/20200921190630689.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzQ1MzAxNDAx,size_16,color_FFFFFF,t_70#pic_center)
进行翻页获取,共计48页,并保存到Excel工作簿中

代码区

import requests
import time
import pandas as pd

if __name__ == '__main__':
    for j in range(1, 49):
        url = f'http://fund.eastmoney.com/Data/Fund_JJJZ_Data.aspx?t=1&lx=1&letter=&gsid=&text=&sort=zdf,desc&page={j},200&dt=1597126258333&atfc=&onlySale=0'
        headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.71 Safari/537.1 LBBROWSER'
        }
        resp = requests.get(url, headers=headers).text
        str_ = resp[102:]
        list1 = eval(str_.split(",count")[0])
        print(f'正在爬取第{j}页')
        print(f'本页爬取{len(list1)}条数据')
		
        num = []
        name = []
        today_price = []
        yesterday_price = []
        day_value = []
        day_value_rate = []
        subscription_status = []
        redemption_status = []
        service_charge = []

        for i in range(len(list1)):
        	# 1、基金代码号
            num.append(list1[i][0])
            # 2、股票名称
            name.append(list1[i][1])
			# 3、今日基金净额
            today_price.append(list1[i][3])
            # 4、昨日基金净额
            yesterday_price.append(list1[i][5])
            # 5、日增长值
            day_value.append(list1[i][7])
            # 6、日增长率
            day_value_rate.append(list1[i][8])
            # 7、申购状态
            subscription_status.append(list1[i][9])
            # 8、赎回状态
            redemption_status.append(list1[i][10])
            # 9、手续费
            service_charge.append(list1[i][17])

        df = pd.DataFrame()
        df['基金代码'] = num
        df['基金名称'] = name
        df['2020-08-12\n单位净值'] = today_price
        df['2020-08-11\n单位净值'] = yesterday_price
        df['日增长值'] = day_value
        df['日增长率\n%'] = day_value_rate
        df['申购状态'] = subscription_status
        df['赎回状态'] = redemption_status
        df['手续费'] = service_charge

        try:
            df.to_excel(f'基金{j}.xlsx', '基金信息', index=None, encoding='utf-8')

        except Exception as e:
            print(e)

    time.sleep(1)

效果

在这里插入图片描述
第48页数据只有19条
在这里插入图片描述

好的,我可以为您介绍一下如何使用 Python 爬虫爬取房产数据并保存到本地。 首先,您需要选择一个合适的站来进行爬取。例如,可以选择链家、安居客等房产站。然后,您需要分析该站的页面结构和数据请求方式,确定需要爬取哪些数据,以及如何获取这些数据。 接着,您可以使用 Python 的 requests 库来发送 HTTP 请求,获取页内容。然后,可以使用 BeautifulSoup 库来解析页内容,提取需要的数据。 最后,您可以使用 Python 的 Pandas 库将数据保存到本地的 Excel 或 CSV 文件中。以下是一个示例代码: ```python import requests from bs4 import BeautifulSoup import pandas as pd # 发送 HTTP 请求获取页内容 url = 'https://bj.lianjia.com/ershoufang/' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} response = requests.get(url, headers=headers) soup = BeautifulSoup(response.content, 'html.parser') # 解析页内容,提取需要的数据 house_list = soup.find_all('div', {'class': 'info'}) data = [] for house in house_list: name = house.find('div', {'class': 'title'}).text.strip() price = house.find('div', {'class': 'price'}).text.strip() area = house.find('div', {'class': 'houseInfo'}).text.strip() data.append([name, price, area]) # 将数据保存到本地文件 df = pd.DataFrame(data, columns=['名称', '价格', '面积']) df.to_excel('house_data.xlsx', index=False) ``` 这是一个简单的示例代码,您可以根据您需要爬取数据站的不同来进行修改和优化。
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值