- 博客(7)
- 收藏
- 关注
原创 Relu激活函数
线性整流单元原函数 导数 在神经元中,x 可以作为 输入。既: ReLu 一般作用:大多数输出层 在不确定使用那个激活函数的情况下...
2018-11-25 10:49:27 989
原创 Identity激活函数可视化
渐近恒等变换,节点输入等于节点输出,不会随着深度的增加而发生显著的变化,神经网络会更加稳定,梯度更容易回传。公式: 微分求导 ...
2018-11-24 22:27:07 3188
原创 sigmoid激活函数推理和实现
sigmoid激活函数定义为: 该值域为:(0,1)求该函数的导数推理过程:主要是依据复合函数: 求解过程: ...
2018-11-13 23:19:17 1450
原创 TensorFlow 学习(六)时尚(衣服、鞋、包等) Fashion MNIST识别
使用 jupyter notebook 笔记,导入需要的包# TensorFlow and tf.kerasimport tensorflow as tffrom tensorflow import kerasimport numpy as npimport numpy as npimport matplotlib.pyplot as pltimport gzipimpor...
2018-11-08 22:47:55 11309 7
原创 机器学习速成笔记(二): 训练与损失
训练模型通过有标签样本来学习(确定)所有的权重和偏差的理想值。损失是对槽糕预测的惩罚,损失是一个数值,模型的预测完全正确,则损失为零,反之,模型的预测越槽糕,损失越大。平方损失:一种常见的损失函数,线性回归模型就是使用该平方损失均方误差:每个样本的平均平方损失,计算均方误差,要算出所有样本预测的平方损失之和,除于样本的数量 ...
2018-11-04 11:12:38 1005
原创 TensorFlow 学习(五) 二分类logistic回归模型
逻辑回归的损失函数是对数损失函数,对数损失函数的方程式与信息论中的熵测量密切相关。它也是似然函数的负对数(假设“y‘ ’” 属于伯努利分布)。实际上,最大限度地降低损失函数的值会生成最大的似然估计值。对数损失函数的方程式如下图 其中:(x,y)ϵD 是包含很多有标...
2018-11-03 14:19:30 1630
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人