AI学习笔记——交叉熵损失函数、梯度下降优化器
梯度下降
keras 优化器
while True:
weights_grad = evaluate_gradient ( loss_fun, data, weight )
weights += step_size * weighs_grad
凸函数:这里的博客说的比较明白,其实主要理解一下全局最优和局部最优
神经网络并不是凸优化问题,只能通过不同策略尽可能接近全局最优点。...
原创
2020-03-05 17:01:14 ·
1453 阅读 ·
0 评论