- 博客(2)
- 收藏
- 关注
原创 神经网络
数据的预处理 方法1:均值减法 对数据中每个独立特征减去平均值,代码X -= np.mean(X, axis=0),几何含义是将数据云的中心平移到原点 方法2:归一化 将数据中的所有维度都归一化,使其数值范围都近似相等。方法1,先对数据做零中心化,再每个维度都除以其标准差 一般流程:原始数据→每个维度都减去平均值得到中心化数据→每个维度都除以标准差来调整其数值范围 注意,这里减去和除以的平均值和方差都是训练集中的,不管是再训练、验证还是测试中 权重的初始化 小随机数权重初始化:权重一般初始化
2020-07-14 21:06:24 169
原创 复习
评分函数 一个通过输入数据和权重来计算各标签得分值的函数,例如典型的线性分类器(简单的一元函数) 损失函数(Softmax&SVM) 一个用于对评分函数输出值进行处理,从而得到更好的结果的处理函数 Softmax与SVM相比的输出更加直观,他输出的不只是评分,而是概率 如果参数集的预测与实际情况一致,则计算出来的损失值越低 最优化 策略:随机选取一个权重W,通过迭代来改变W,使得损失值不断减小 梯度:最优化的关键点,描述的是某点处损失函数下降的方向 计算后,所有的梯度都存储再gra
2020-07-14 19:35:37 215
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人