数据挖掘入门

nn.Linear(in_feature,out_feature,bias)(线性变换)

Bias为布尔类型, Linear线性变换中是否添加bias偏置

in_feature:int型, 输入Tensor最后一维的通道数

out_feature:int型, 输出Tensor最后一维的通道数

nn.BatchNorm1d

使用 nn.BatchNorm1d 层时,它会对每个特征维度上的数据进行标准化处理。具体而言,它会计算每个特征维度的均值和方差,并将输入数据进行中心化和缩放,以使其分布接近均值为0、方差为1的标准正态分布。

数学方程如图

其中,eps默认为1e-5,是为了防止当标准差太小时,计算机将分母处理为0

nn.ReLU(激活函数)

数学公式如图

激活函数是用来加入非线性因素的,提高神经网络对模型的表达能力,解决线性模型所不能解决的问题

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值