注:单纯个人愚见,只是大概讲个作用,欢迎指正!详细的网上许多大牛都有解释。
优化算法种类:
一:最小二乘法
函数真值与估计值之间残差最小。是一种数学优化技术。利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际数据之间误差的平方和为最小。最小二乘法还可用于曲线拟合。https://www.cnblogs.com/softlin/p/5815531.html。例如:Y=ax+b,可以使用最小二乘法,我们通过已知(X,Y)求出未知参数(a,b),找出最合适的a,b用来模拟出这条曲线。
二:梯度下降
梯度下降法是一个最优化算法。帮助寻找最小的那个损失值,从而可以反推出对应的学习参数b和w,达到优化模型的效果。
有空就更新。。。