![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 94
追随远方的某R
世界在等待我所寻找的答案
展开
-
ResNet简介
此网络于2015年,国人何先生提出,用于解决随着深度学习的层数加深造成的网络和。原创 2023-08-22 21:44:49 · 389 阅读 · 0 评论 -
机器学习基础知识(1)
机器学习是一种通过输入大量数据来构建一种模型(网络),这个训练好的模型将会被用来预测或执行某些操作,这个训练的过程和方法就是机器学习。我们也可以理解为构建一个“函数”,使得这个函数面对我们的输入数据能够返回出某些结果,而寻找或者说构建这个函数的过程就是机器学习。原创 2023-08-04 20:35:54 · 908 阅读 · 0 评论 -
深度学习——注意力机制、自注意力机制
1.缩放是因为softmax归一化是有问题的,当缩放前的某个元素非常大的时候,softmax会把大部分的概率分给这个大的元素,这就会产生一个类似one-hot的向量,softmax反向传播会导致梯度消失。所以在softmax前缩放,缓解这种问题。2.除以维度的根号因为我们希望输入softmax的数据是均值为0,方差为1。原创 2023-08-01 20:29:34 · 1781 阅读 · 0 评论