李沐深度学习-01-数据处理入门

import torch

#测试安装
a=torch.ones((3,1))
a=a.cuda(0)
b=torch.ones((3,1)).cuda(0)
a+b

tensor([[2.],
        [2.],
        [2.]], device='cuda:0')

数据操作

x=torch.arange(12)
#向量
print(x)
#形状
x.shape

tensor([ 0,  1,  2,  3,  4,  5,  6,  7,  8,  9, 10, 11])





torch.Size([12])

#元素总数
x.numel()

12

#改变形状
x.reshape(3,4)

tensor([[ 0,  1,  2,  3],
        [ 4,  5,  6,  7],
        [ 8,  9, 10, 11]])

#元素全0
torch.zeros((2,3,4))

tensor([[[0., 0., 0., 0.],
         [0., 0., 0., 0.],
         [0., 0., 0., 0.]],

        [[0., 0., 0., 0.],
         [0., 0., 0., 0.],
         [0., 0., 0., 0.]]])

#特定的值使用python列表
torch.tensor([[2,1,4],[1,2,3]])

torch.Size([2, 3])

#常见的标准算术运算符(+ - * / **(求幂))
x=torch.tensor([1.0,2,3,4])
y=torch.tensor([2,2,2,2])
x+y,x-y,x*y,x/y,x**y

(tensor([3., 4., 5., 6.]),
 tensor([-1.,  0.,  1.,  2.]),
 tensor([2., 4., 6., 8.]),
 tensor([0.5000, 1.0000, 1.5000, 2.0000]),
 tensor([ 1.,  4.,  9., 16.]))

#把多个张量连结起来
X=torch.arange(12,dtype=torch.float32).reshape((3,4))
Y=torch.tensor([[2,3,1,3],[1,2,4,5],[4,2,3,1]])
#dim=0按列 dim=1按行
torch.cat((X,Y),dim=0),torch.cat((X,Y),dim=1)

(tensor([[ 0.,  1.,  2.,  3.],
         [ 4.,  5.,  6.,  7.],
         [ 8.,  9., 10., 11.],
         [ 2.,  3.,  1.,  3.],
         [ 1.,  2.,  4.,  5.],
         [ 4.,  2.,  3.,  1.]]),
 tensor([[ 0.,  1.,  2.,  3.,  2.,  3.,  1.,  3.],
         [ 4.,  5.,  6.,  7.,  1.,  2.,  4.,  5.],
         [ 8.,  9., 10., 11.,  4.,  2.,  3.,  1.]]))

#通过逻辑运算符构建二元张量
X==Y

tensor([[False, False, False,  True],
        [False, False, False, False],
        [False, False, False, False]])

#求和
X.sum()

tensor(66.)

#即使形状不同，我们仍然可以通过广播机制来执行按元素操作
a= torch.arange(3).reshape((3,1))
b=torch.arange(2).reshape((1,2))
#a扩充至3，2 b扩充至 3，2
a+b

tensor([[0, 1],
        [1, 2],
        [2, 3]])

#元素的访问
#x[-1]最后一行
X[-1],X[1:3]

(tensor([ 8.,  9., 10., 11.]),
 tensor([[ 4.,  5.,  6.,  7.],
         [ 8.,  9., 10., 11.]]))

#赋值
X[0:2,:]=12
X

tensor([[12., 12., 12., 12.],
        [12., 12., 12., 12.],
        [ 8.,  9., 10., 11.]])

#运行一些操作可能会导致为新结果分配内存
before =id(Y)
#会导致重新分配
Y=X+Y
id(Y)==before

False

#原地操作
Z=torch.zeros_like(Y)
print(id(Z))
Z[:]=X+Y
print(id(Z))

1499739335536
1499739335536

#若后续无需使用X，直接把Y加进里面
before=id(X)
X+=Y
id(X)==before

True

#转换为NumPy张量
A=X.numpy()
B=torch.tensor(A)
type(A),type(B)

(numpy.ndarray, torch.Tensor)

#将大小为1的张量转换为python标量
a=torch.tensor([3.5])
a,a.item(),float(a),int(a)

(tensor([3.5000]), 3.5, 3.5, 3)

数据预处理

import os

os.makedirs(os.path.join('..', 'data'), exist_ok=True)
data_file = os.path.join('..', 'data', 'house_tiny.csv')
with open(data_file, 'w') as f:
    f.write('NumRooms,Alley,Price\n')  # 列名
    f.write('NA,Pave,127500\n')  # 每行表示一个数据样本
    f.write('2,NA,106000\n')
    f.write('4,NA,178100\n')
    f.write('NA,NA,140000\n')

#读取文件
import pandas as pd
data=pd.read_csv(data_file)
print(data)

   NumRooms Alley   Price
0       NaN  Pave  127500
1       2.0   NaN  106000
2       4.0   NaN  178100
3       NaN   NaN  140000

# 为了处理缺失的数据，典型的方法包括插值法和删除法， 其中插值法用一个替代值弥补缺失值，而删除法则直接忽略缺失值。 
# 在这里，我们将考虑插值法。
inputs, outputs = data.iloc[:, 0:2], data.iloc[:, 2]
#mean()表示均值，只对数值有效,numeric_only=True(有非数值列需添加)
inputs = inputs.fillna(inputs.mean(numeric_only=True))
print(inputs)

   NumRooms Alley
0       3.0  Pave
1       2.0   NaN
2       4.0   NaN
3       3.0   NaN

#如何处理非数值类？
#对于inputs中的类别值或离散值，我们将“NaN”视为一个类别。 由于“巷子类型”（“Alley”）列只接受两种类型的类别值“Pave”和“NaN”， pandas可以自动将此列转换为两列“Alley_Pave”和“Alley_nan”。 巷子类型为“Pave”的行会将“Alley_Pave”的值设置为1，“Alley_nan”的值设置为0。
#缺少巷子类型的行会将“Alley_Pave”和“Alley_nan”分别设置为0和1。
#要想使得为0，1，要加上dtype=int
inputs = pd.get_dummies(inputs, dummy_na=True,dtype=int)
print(inputs)

   NumRooms  Alley_Pave  Alley_nan
0       3.0           1          0
1       2.0           0          1
2       4.0           0          1
3       3.0           0          1

#数值转张量格式
X = torch.tensor(inputs.to_numpy(dtype=float))
y = torch.tensor(outputs.to_numpy(dtype=float))
X, y

(tensor([[3., 1., 0.],
         [2., 0., 1.],
         [4., 0., 1.],
         [3., 0., 1.]], dtype=torch.float64),
 tensor([127500., 106000., 178100., 140000.], dtype=torch.float64))