- 博客(11)
- 收藏
- 关注
原创 AI作业12
sigmoid层输出0到1之间的值,表示我们要保存多少新信息,0表示“什么都不保存”,1表示“保存所有”,而tanh层则生成新的候选值,可能会被加入到状态中。sigmoid层决定我们要输出哪部分信息,而tanh层则将细胞状态转换到-1到1之间,然后与sigmoid的输出相乘,最后输出我们想要的信息。LSTM把原本RNN的单元改造成一个叫做CEC的部件,这个部件保证了误差将以常数的形式在网络中流动 ,并在此基础上添加输入门和输出门使得模型变成非线性的,并可以调整不同时序的输出对模型后续动作的影响。
2023-06-06 08:21:41
86
原创 AI作业11
所谓Seq2Seq(Sequence to Sequence),即序列到序列模型,就是一种能够根据给定的序列,通过特定的生成方法生成另一个序列的方法,同时这两个序列可以不等长。RNN可以处理任何长度的序列,对于长期的时间依赖性,标准的RNN处理起来有困难,但LSTM或GRU等RNN的变体可以很好地解决这个问题。梯度消失和梯度爆炸的根源主要是因为深度神经网络结构以及反向传播算法,目前优化神经网络的方法都是基于反向传播的思想,即根据损失函数计算的误差通过反向传播的方式,指导深度网络权值的更新。
2023-05-31 12:03:47
101
1
原创 AI作业10
对于给定的感受野(与输出有关的输入图片的局部大小),采用堆积的小卷积核是优于采用大的卷积核,因为多层非线性层可以增加网络深度来保证学习更复杂的模式,而且代价还比较小(参数更少)。简单来说,在VGG中,使用了3个3x3卷积核来代替7x7卷积核,使用了2个3x3卷积核来代替5*5卷积核,这样做的主要目的是在保证具有相同感知野的条件下,提升了网络的深度,在一定程度上提升了神经网络的效果。该网络是在ILSVRC 2014上的相关工作,主要工作是证明了增加网络的深度能够在一定程度上影响网络最终的性能。
2023-05-23 14:37:36
97
1
原创 AI作业8
高级特征则是指基于中级特征构建的更加抽象和复杂的特征,如物体的部件、结构、语义等,这些特征能够更好地描述物体的高层次语义信息,因此对于更加复杂的任务(如目标检测、语义分割等)的效果会更好。中级特征则是指基于低级特征构建的一些更高层次的特征,如形状、轮廓、纹理组合等,这些特征能够更好地描述物体的形态和结构,因此对于分类或识别任务的效果会更好。填充:在输入特征图的每一边添加一定数目的行列,使得输出的特征图的长、宽 = 输入的特征图的长、宽。4、池化(子采样、降采样、汇聚)5、低级特征、中级特征、高级特征。
2023-05-10 09:58:08
107
原创 AI作业7
特征选择:通过不同的卷积核提取不同的特征,从而得到更好的模型表现。卷积:系统某一时刻的输出是由多个输入共同作用(叠加)的结果。1、简单描述卷积、卷积核、多通道、特征图、特征选择概念。卷积核:可以看作对某个局部的加权求和。多通道:输入数据和卷积核具有多个通道。特征图:卷积操作后得到的输出数据。
2023-05-06 11:22:59
48
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人