深度学习
文章平均质量分 63
神经网络相关知识
hanlifeng2000
这个作者很懒,什么都没留下…
展开
-
pytoch基础语法
【代码】pytoch基础语法。原创 2023-07-29 16:55:13 · 139 阅读 · 0 评论 -
深度学习的优化方法
梯度下降法简单来说就是⼀种寻找使损失函数最⼩化的⽅法。⼤家在机器学习阶段已经学过该算法,所以我们在这⾥就简单的回顾下,从数学上的⻆度来看,梯度的⽅向是函数增⻓速度最快的⽅向,那么梯度的反⽅向就是函数减少最快的⽅向,所以有:其中,η是学习率,如果学习率太⼩,那么每次训练之后得到的效果都太⼩,增⼤训练的时间成本。如果,学习率太⼤,那就有可能直接跳过最优解,进⼊⽆限的训练中。解决的⽅法就是,学习率也需要随着训练的进⾏⽽变化。原创 2023-07-27 20:09:01 · 406 阅读 · 1 评论 -
神经网络损失函数
1、分类任务在深度学习中损失函数是⽤来衡量模型参数的质量的函数衡量的⽅式是⽐较⽹络输出和真实输出的差异。1、分类任务1.1 多分类任务在多分类任务通常使⽤softmax将logits转换为概率的形式,所以多分类的交叉熵损失也叫做softmax损失,它的计算⽅法是:其中,y是样本x属于某⼀个类别的真实概率,⽽f(x)是样本属于某⼀类别的预测分数,S是softmax函数,L⽤来衡量p,q之间差异性的损失结果。原创 2023-07-26 16:35:05 · 81 阅读 · 1 评论 -
keras实现神经网络结构
【代码】keras实现神经网络结构。原创 2023-07-25 23:03:26 · 149 阅读 · 0 评论