刘二PyTorch深度学习(六)——多维特征输入

  1. 当遇到多维特征输入的时候,转置成行向量,再右乘一个权重的列向量,最后加上一个偏置项即可(xT*w+b)

这里要转化成矩阵和矩阵的乘积运算,因为转化成矩阵即转化成向量进行计算,会利用计算机的并行计算能力(利用GPU和CPU),来提高运算速度

2. 列的数量对应的是feature

3. 矩阵可以看成是一个空间变换的函数:y=A*x,其中y是一个M*1向量,x是一个N*1向量,如果想把x映射到y,那么A就需要是一个M*N的矩阵

  1. 神经网络:通过给线性变换增加非线性变换因子,从而拟合非线性变换

其他激活函数

import torch
import matplotlib.pyplot as plt
import numpy as np
from sklearn import datasets

# delimiter=','表示按照原样输出csv文件中的数据
xy = np.loadtxt('./data/diabetes.csv', delimiter=',', dtype=np.float32)

x_data = torch.from_numpy(xy[:, :-1])
y_data = torch.from_numpy(xy[:, [-1]])


class Model(torch.nn.Module):
    def __init__(self):
        super(Model, self).__init__()
        self.linear1 = torch.nn.Linear(8, 6)
        self.linear2 = torch.nn.Linear(6, 4)
        self.linear3 = torch.nn.Linear(4, 1)
        self.sigmoid = torch.nn.Sigmoid()

    def forward(self, x):
        x = self.sigmoid(self.linear1(x))
        x = self.sigmoid(self.linear2(x))
        x = self.sigmoid(self.linear3(x))
        return x


model = Model()

criterion = torch.nn.BCELoss(reduction='mean')
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

lost_list=[]
for epoc in range(1000):
    y_pred = model(x_data)
    loss = criterion(y_pred, y_data)
    lost_list.append(loss.item())
    print(epoc, loss.item())

    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

plt.plot(np.arange(0,1000,1),lost_list)
plt.xlabel('epoc')
plt.ylabel('loss')
plt.show()

 

 

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值