1、数据预处理,创建数据集
# 数据预处理
# 导包
import os
# 创建一个人工数据集,并存储在csv中(逗号分隔值)文件
os.makedirs(os.path.join('..', 'data'), exist_ok=True)
data_file = os.path.join('..', 'data', 'house_tiny.csv')
with open(data_file, 'w') as f:
f.write('NumRooms,Alley,Price\n') # 列名
f.write('NA,Pave,127500\n') # 每行表示一个数据样本
f.write('2,NA,106000\n')
f.write('4,NA,178100\n')
f.write('NA,NA,140000\n')
2、从csv文件中读取数据
# 从创建的csv文件中加载原始数据集
import pandas as pd
data = pd.read_csv(data_file)
print(data)
输出:
NumRooms Alley Price
0 NaN Pave 127500
1 2.0 NaN 106000
2 4.0 NaN 178100
3 NaN NaN 140000
3、处理缺失数据
# 处理缺失数据
# 使用插值,删除等方法
# 插值
# 输入输出分隔
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
# 输入数据,fillna()函数会使数值域中的缺失数值取平均
inputs = inputs.fillna(inputs.fillna(inputs.mean()))
print(inputs)
# 非数值列中,将特征建两类,有则为1,无则为0
# 对于inputs中的类别值或离散值,将“NAN”视为一个类别
inputs = pd.get_dummies(inputs, dummy_na=True)
print(inputs)
输出:
NumRooms Alley
0 3.0 Pave
1 2.0 NaN
2 4.0 NaN
3 3.0 NaN
NumRooms Alley_Pave Alley_nan
0 3.0 1 0
1 2.0 0 1
2 4.0 0 1
3 3.0 0 1
4、转换为张量格式
# 全部为数值以后,将其转换为张量格式
import torch
X, y = torch.tensor(inputs.values), torch.tensor(outputs.values)
print("X, y", X, y)
输出
X, y
tensor([[3., 1., 0.],
[2., 0., 1.],
[4., 0., 1.],
[3., 0., 1.]], dtype=torch.float64)
tensor([127500, 106000, 178100, 140000])