学习中的知识点(链接)
在看论文和敲代码的过程中,有很多需要查找了解的知识点,但是以往这些知识点看过之后很容易忘记,因此将每次寻找到的知识点相关博客整理在这,以供后面复习查看。(所有博客都会附上链接,侵删!! -_-)
LSTM
LSTM的理解:
神经网络会受到短时记忆的影响。 如果一条序列足够长,那它们将会很难把信息从较早的时间步传送到后面的时间步。介入,处理一段文本进行预测,那么RNN可能从一开始就会遗漏一些重要的信息。而LSTM则能够解决这样的问题,通过LSTM中的“门”结构,网络可以学得哪些数据是重要的要保留的,哪些数据是无足轻重,可以删除的。当然,这边所说的保留和删除是通过权重来实现的,若这个数据很重要,那么必然给这个数据赋予的权值就大,数据不重要的时候,权值就自然很小,甚至趋向于0.
链接:
LSTM详解
大名鼎鼎的LSTM详解
双向LSTM (BiLSTM) (双向RNN)
双向lstm_LSTM结构解析
单向LSTM与双向LSTM对比
LSTM模型、双向LSTM模型以及模型输入输出的理解
高帧率
高帧率理解:
电影行业标准的帧率是24帧/秒,那么高帧率就是要比24大的帧率,40帧/秒,70/秒等,现在一些游戏和电影中已经存在高帧率,高帧率会带来更丰富的内容以及细节。
链接:
匈牙利算法
链接:
视觉-注意力机制
通道注意力,空间注意力,自注意力
链接
损失函数
交叉熵损失函数多用于分类问题中
链接:
交叉熵损失函数:一文读懂交叉熵损失函数
Transformer
图解Transformer
链接
视频压缩
H264视频压缩算法