机器学习
守钱
对c/c.python 非常感兴趣并正在努力学习中
展开
-
深度学习之激活函数详解
激活函数是什么?激活函数, 即Activation Function, 有时候也称作激励函数. 提到激活函数,就不得不先说一下神经网络.神经网络中最基本的成分是神经元(neuron)模型, 每个神经元与其他神经元相连.如果某神经元的电位超过了一个'阈值'(threshold), 那么它就会被激活, 即'兴奋'起来.当它'兴奋'时就会向相连的神经元发送化学物质,从而改变这些神经元内的电位....原创 2019-04-01 18:08:17 · 1075 阅读 · 0 评论 -
深度学习-何如计算误差(图片有问题,后期修复)
前言误差计算是深度学习中的核心,非常重要!!! 关于误差计算,有如下概念:损失函数(Loss Function) : 定义在单个样本上的, 算的是一个样本的误差 代价函数(Cost Function) : 定义在整个训练集上的, 是所有样本误差的平均, 也就是损失函数的平均 目标函数(Object Function): 最终优化的函数.等于经验风险+结构风险(也就是Cost Funct...原创 2019-04-01 18:25:04 · 2834 阅读 · 0 评论 -
深度学习笔记(本文不讲技术细节,持续更新)
目录: 网络架构, 激活函数, 网络模型, 数据集, 损失函数, 输出函数常见的激活函数Sigmoid输出范围为[0,1]幂运算且求导涉及除法梯度消失输出非0均值Tanh输出范围为[-1,1]幂运算且求导涉及除法梯度消失输出为0均值ReLU输出范围为[0,x]运算简单权重失活(weight dead)输出非0均值Leaky ReLU输出范围...原创 2019-05-07 22:51:24 · 135 阅读 · 0 评论