![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习与深度学习算法
lzpyx
这个作者很懒,什么都没留下…
展开
-
多元线性回归及其算法实现(梯度下降法)
上一篇文章讲述了梯度下降法的数学思想,趁热打铁,这篇博客笔者将使用梯度下降法完成多元线性回归,话不多说,直接开始。首先我们引入一个场景:当我们已知广告投入(一共三种渠道,分别是TV,radio,newspaper)的情况下,预测销售量。我们假设我们的目标函数是长这样的:其中的是我们认为对输出产生影响的输入值,而则是我们要求的参数,也就是各个x的权值。需要指出的是,取值为1,也就是式中的...原创 2020-02-16 18:54:42 · 2080 阅读 · 2 评论 -
梯度下降法算法核心
在高等数学中,我们学习了导数,泰勒展开等等,我们一定做过一类题:求最小值/极小值,其实就是在求我们该如何取参数,使得目标函数取得最小值。这个数学问题有着深厚的工程应用背景,比如:深度学习中,我们该如何取神经网络的权值,使得学习误差最小?这里的权值就是我们要求的参数,学习误差就是目标函数。通常我们的做法是求导,令求导的方程等于零,解方程。但是在学习时我们发现,我们只能用这个方法解决一小部分相对简...原创 2020-02-15 19:17:30 · 742 阅读 · 0 评论