机器学习
程序媛的被窝
这个作者很懒,什么都没留下…
展开
-
机器学习建模流程
原创 2018-04-20 11:29:58 · 1753 阅读 · 0 评论 -
代价函数(损失函数)
模型分为能量模型和概率模型,知道概率分布的可以直接用概率模型进行建模,不知道的就用能量模型。因为一个系统稳定的过程就是能浪逐渐减小的过程。 代价函数说白了也就是通常建立的能量方程的一种,在机器学习中用来衡量预测值和真实值之间的误差,越小越好。一般来说一个函数有解析解和数值解,解析解就是我们数学上可以用公式算出来的解,数值解是一种近似解,在解析解不存在或者工程实现比较复杂的时候,用...原创 2018-05-04 14:04:46 · 2416 阅读 · 0 评论 -
深度学习
原创 2018-05-04 14:33:51 · 194 阅读 · 0 评论 -
Alex-net
下一个图像的通道为48, 是因为96个核,分成了两部分减少过拟合的方法:1 数据处理: (1)图像变换和镜像旋转,说明CNN不是抗旋转的 (2)主成分分析后添加高斯噪声,因为图像的内容丰富度用秩来表示,主成分分析是奇异值分解的另一种形式,某种意义上说来是统一的,而矩阵的所有的特征空间就是用来表征矩阵的有效信息的2 随机失活(dropout):使得网络结构动态化的一种办法,不会依赖某些层非线性激活...原创 2018-05-04 17:42:26 · 246 阅读 · 0 评论 -
正则化减少overfitting
正则化相当于对原来函数的泛化能力,是对解空间的一种约束:不仅减少了过拟合,还避免陷入局部最小值点常见的正则化:(1)L1 正则化(2)L2 正则化两者都是权重的减小, 只是L1减少一个常量,L2减少了固定比例如果权重本身很大,L1减少的比L2少如果权重本身很小,L1减少的多L1正则化使数据变得更加稀疏,这是和本身的范数空间有关的...原创 2018-04-27 16:17:00 · 208 阅读 · 0 评论 -
线性分类器
转载 2018-04-27 17:05:09 · 244 阅读 · 0 评论 -
深度学习
转载 2018-04-27 17:19:23 · 220 阅读 · 0 评论 -
概率
1 加法公式两个互不相容的事件 交集为空,并集为概率相加2 乘法公式两个事件相互独立 同时发生的概率为两者的乘积3 全概率B为互不相容事件4 贝叶斯公式 先相乘再求和,是乘法公式和全概率公式的结合5 统计...转载 2018-05-06 22:27:45 · 889 阅读 · 0 评论 -
向量矩阵求导
每个元素对列向量求导类型不同,求导会扩展为数据量大的类型常数和矩阵结合,还是常数矩阵和矩阵结合,系数矩阵转置二次型,系数矩阵转置和本身同时存在多系数矩阵结合,都转置复合求导采用链式法则...转载 2018-05-06 22:59:35 · 551 阅读 · 0 评论