![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 76
Fengzi_tobe
这个作者很懒,什么都没留下…
展开
-
自定义损失函数
自定义损失函数 我们使用损失函数来计算一个给定的算法与它所训练的数据的匹配程度。损失计算是基于预测值和实际值之间的差异来做的。如果预测值与实际值相差甚远,损失函数将得到一个非常大的数值。 1. import tensorflow as tf #举例:方差损失函数 def customized_mse(y_true, y_pred): return tf.reduce_mean(tf.squre(y_pred - y_true)) model.compile(loss = customized_m原创 2021-12-08 17:03:24 · 2635 阅读 · 0 评论 -
【数学基础】
数学基础 微积分 SGD,Momentum,Adagard,Adam原理 优化算法 深度学习的目标:降低泛化误差,需要: 优化算法降低训练误差(在训练集上表现的误差) 防止过拟合(在任一测试数据样本上表现的误差期望,常用测试数据集的误差近似) BGD 批梯度下降; 用整个训练集的数据计算损失函数的梯度,再对参数更新; 损失函数若凸,可以保证收敛到全局最优;非凸,局部最优; 慢,占用内存大,不能在线更新模型,如增加实例; SGD 随机梯度下降(stochastic gradient d原创 2021-08-30 17:25:05 · 46 阅读 · 0 评论