百面机器学习
嘀嗒嘀嘀嗒嘀
别低头,王冠会掉
展开
-
【百面机器学习】L1和L2正则化---未解决贝叶斯先验
角度一:解空间形状 也是最常见的答案 角度二:函数叠加 原始目标函数曲线-棕色:最小值点在蓝色处,显然非0; L1曲线-绿色曲线:最小值在红色处,为0; L2曲线-黄色曲线:最小值在黄色处,非0; L1:求导,原点左边递减,右边递增即可说明最小点在原点处。 对L(w)=l(w)+C∣w∣L(w) = l(w) + C|w|L(w)=l(w)+C∣w∣求导,C∣w∣C|w|C∣w∣在原点左边为-...转载 2019-07-16 15:17:47 · 183 阅读 · 0 评论 -
优化算法之智能优化算法
遗传算法目前我的感受是:在解空间内随机搜索参数的,比起梯度下降原创 2019-08-08 22:22:44 · 1267 阅读 · 1 评论