DNN
归遇卿
不会写代码的码农......
展开
-
深度神经网络(DNN):卷积神经网络(CNN)之激活函数大全
卷积神经网络中激活函数,理论上可以是线性函数:例 但是在模型中一般选用非线性的激活函数。(1)sigmoid函数:(2)双曲正切函数:(3)硬限幅函数(4)斜面函数(5)修正线性单元函数(ReLU)(6)渗漏修正线性单元(LReLU){a属于(0,1),若a随机生成则为PReLU}(7)参数修正线性单元(PReLU){a<=1,为可调参数}...原创 2020-02-15 10:56:01 · 1349 阅读 · 0 评论 -
CNN卷积中卷积层,卷积核,通道概念及卷积过程详解
1.卷积层,卷积核,通道概念及作用卷积层:又称滤波器(filter)或者内核(kernel),TensorFlow文档中称之为滤波器(filter)。用于对输入的图像结构进行特征提取。卷积核:同上卷积层。通道:指滤波器的个数。输出的通道层数只与当前滤波器的通道个数有关。其中输入层,黑白图像的通道数为1,彩色图像的滤波器个数为3(RGB)2.卷积过程如图一(源于网络)所示(彩...原创 2019-08-09 22:53:15 · 16280 阅读 · 8 评论 -
CNN交叉熵损失函数
转参考知乎ID(小飞鱼)链接:损失函数-交叉熵损失函数1.交叉熵损失函数表达式1.1二分类式:L=-[y*log(p)+(1-y)*log(1-p)]参数含义:y:样本标签,正确为1,错误为0p:预测正确概率1.2多分类表达式如图:参数含义:M:类别的数量yc:只是变量,正确为1,否则为0Pc:预测正确的概率2.函数的性质右图可得,函数为凸函...转载 2019-08-10 21:41:25 · 3381 阅读 · 0 评论