JackYuBo

这本笔记的参考书目和课程为： 《机器学习基础教程》：机械工业出版社 模式识别与机器学习(PRML) 统计学习方法:清华大学出版社,李航 Deep Learning:Ian Goodfellow,Yoshua Bengio,Aaron Counrville 斯坦福《机器学习公开课》吴恩达之后的内容都是来源于这几本书的学习和一些反思，后面就不强调了。这里的机器学习默认是统计机器学习，后面也不再强调了。...

一.迭代思想这里要写的其实跟主题梯度下降是没有关系的。但是它能够让非常新的新手体会循环往复的迭代修改一个或者多个值到最优的思想。所以这里把这个列到最开始，随便看看体会一下就行了。假设我们现在要来求解一个线性方程组,  这个方程组很容易,可以用各种方法来解.精确的解容易求出来为。 现在我们把原来的方程记为另外一种形式：  写为向量形式为,其中  现在任意取初始值,比如,然后将这个初始值带入到上面的公...