算法优化
文章平均质量分 67
暗狼之殇
目前正在转型人工智能
展开
-
最小二乘法
基本概念最小二乘法又称最小平方法,是一种数学优化方法,是求解机器学习算法的模型参数的常用方法之一通过最小化误差的平方和寻找数据的最佳函数的参数;利用最小二乘法可以简便地求得未知的数据,并使得这些求得的数据与实际的数据之间的误差平方和为最小最小二乘法还可以用于曲线拟合所谓二乘,其实可以理解为平方,所以又称为最小平方法。推导得到了a,求b,由b的推导公式,可知:这样就求出了a和b的值;python代码...原创 2018-07-12 11:13:06 · 277 阅读 · 0 评论 -
神经网络优化算法
神经网络发展至今,优化算法层出不穷,但大底是出不了梯度下降的框框架架。 梯度下降法 Gradient Descent 公式: 选择负梯度方向进行参数更新,算是常规操作了。对于多层神经网络如何执行梯度下降: def update_parameters_with_gd(parameters, grads, learning_rate): """ Update parame...原创 2018-08-31 22:51:02 · 1543 阅读 · 0 评论