机器学习
文章平均质量分 88
shuangyumelody
认真做好生活中的每一件小事
展开
-
机器学习------L1、L2规范化(L1 Regularization、L1 Regularization)
取自孙明的"数字图像处理与分析基础" 1. 引入——病态问题和约束 通过改变模型的拟合能力来避免过拟合并不是一件容易的事情,更常用的办法是使用规范化对模型的参数进行一定的约束。下面来考虑一个非常简单的例子,求下面方程的解: 2x−y+2=02x−y+2=02x-y+2=0  这是一个二元一次方程,有无数个解,都在下图1a所示的这条直线上。 图1 病态方程求解和...原创 2018-07-28 16:35:35 · 14413 阅读 · 7 评论 -
机器学习------支持向量机(Support Vector Machine, SVM)
取自周志华的西瓜书1. 间隔与支持向量 给定训练样本集D=(x1,y1),(x2,y2),……,(xm,ym),yi∈{−1,+1}D=(x1,y1),(x2,y2),……,(xm,ym),yi∈{−1,+1}D={(x_1, y_1), (x_2, y_2),……, (x_m, y_m)}, y_i\in{\{-1, +1\}},分类学习最基本的想法就是基于数据集D在样本空间中找到一个...原创 2018-08-03 16:54:40 · 964 阅读 · 0 评论 -
机器学习------批归一化(Batch Normalization, BN)
从字面意思上理解Batch Normalization就是对每一批数据进行归一化,确实如此,对于训练中某一个batch的数据{x1x1x_1, x2x2x_2, ……, xnxnx_n},注意这个数据可以是输入也可以是中间某一层的输出,BN的前3步如下: μ←1m∑i=1mxiμ←1m∑i=1mxi\mu\leftarrow\frac{1}{m}\sum_{i=1}^mx_i σ2...原创 2018-07-31 17:12:05 · 2243 阅读 · 0 评论