机器学习
无用书生柯南君
asadsd
展开
-
AI中的数学概念
1、范数 L0范数是指向量中非0的元素的个数。如果我们用L0范数来规则化一个参数矩阵W的话,就是希望W的大部分元素都是0。换句话说,让参数W是稀疏的。 L1范数是指向量中各个元素绝对值之和。L1范数是L0范数的最优凸近似。任何的规则化算子,如果他在Wi=0的地方不可微,并且可以分解为一个“求和”的形式,那么这个规则化算子就可以实现稀疏。W的L1范数是绝对值,|w|在w=0处是不可微。 ...原创 2018-10-28 20:31:20 · 565 阅读 · 0 评论 -
SVM
1、硬间隔支持向量机目标是使得两类所有节点到分离超平面之间的距离之和最大2、软间隔支持向量机节点中存在噪声(有些点错误的在某一类中,线性分的时候)。引入“松弛变量“的概念,目标函数里添加权重参数C,C和松弛变量相乘,如果我们能够容忍噪声,那就把C调小,让他的权重降下来,从而变得不重要;反之,我们需要很严格的噪声小的模型,则将C调大一点,权重提升上去,变得更加重要。通过对参数C的调整...原创 2018-10-28 22:57:59 · 182 阅读 · 0 评论