jianbaitou的博客

原创 梯度下降法的python实现1

刚开始学习机器学习，了解了代价函数，梯度下降算法，用一组最简单的数据进行拟合对于该算法的自己的一些理解我们在拟合的过程中，需要一个判断拟合准确程度的函数，这个函数就叫损失函数（也叫做代价函数）例：比如我们对自变量x1，因变量y1进行拟合，图中蓝色的线是我们拟合出来的函数，图中的圆圈是本来的数据，每个数据和拟合出来的函数都有一个高度差，把这些高度差的平方加起来得到一个值，我们令这个值为h，显然h越大，就越代表拟合的偏离程度就越大，h越小，就说明拟合的偏离程度越小。但是h并不是代价函数,在官方的定