人工智能
文章平均质量分 74
Aaron_Yang.
大三软件工程在读,欢迎学习交流,一起进步
展开
-
LSTM模型中既存在sigmoid又存在tanh两种激活函数的原因
关于激活函数的选取,在LSTM中,遗忘门、输入门和输出门使用 Sigmoid函数作为激活函数;在生成候选记忆时,使用双曲正切函数tanh作为激活函数。值得注意的是,这两个激活函数都是饱和的也就是说在输入达到一定值的情况下,输出就不会发生明显变化了。如果是用非饱和的激活图数,例如ReLU,那么将难以实现门控的效果。Sigmoid的输出在0-1之同,符合门控的物理定义,且当输入较大或较小时,其输出会非常接近1或0,从而保证该门开或关,在生成候选记亿时,使用tanh函数,是因为其输出在-1-1之间,这与大多数场原创 2022-05-30 10:06:11 · 5961 阅读 · 2 评论 -
LSTM 长短期记忆循环神经网络(学习笔记)
LSTM 长短期记忆递归神经网络1.LSTM 定义LSTM 全称是Long Short Term Memory (长短期记忆),是RNN的一种。基本一般情况下使用RNN都是使用LSTM,最基础的RNN存在一些问题,LSTM的效果更好。最基础版本的RNN每一时刻的隐藏层不仅由该时刻的输入决定,还有上一时刻的隐藏层的值。如果一个句子很长的时候,到句子末尾的时候,将会记不住句子开头的内容,发生梯度消失和爆炸的问题。而LSTM通过它的“门控装置”有效的缓解了这个问题。LSTM和普通的RNN不一样,可以将原创 2022-04-29 20:46:53 · 3707 阅读 · 0 评论 -
opencv深度学习入门笔记整理
一、图像的基本操作(1)读取图像Img = cv2.imread(“xx.jpg”) img的数据类型为ndarray的格式(2)图像显示可以多次调用,创建多个窗口cv2.imshow(“image”,img)(3)等待时间毫秒级,0表示任意键终止,如数字10000表示10秒后自动关闭cv2.waitKey(0)cv2.destroyAllWindows()(4)图片的属性img.shape(414,500,3)代表H,W,C (C指的是BGR,opencv里的颜色显示和顺原创 2022-03-15 11:39:45 · 5639 阅读 · 0 评论 -
RNN 循环神经网络(学习笔记)
RNN 循环神经网络1.为什么需要RNN?一般的神经网络都只能单独的处理一个个输入,前一个输入和下一个输入,前后没有关联。但是,在某些任务情况下,前面的输入和后面的输入是有关系的,因此我们需要更好的处理序列之间的信息问题。举个例子:以NLP中的非常基础的词性标注任务来说,我 (NN) 发出(VV) 邀请(NN)很明显,一个句子中,前一个单词对于当前单词的词性预测有很大的影响。就像邀请这个词,可以是动词也可以是名词。但由于前面“发出”是一个动词,那么“邀请”作为名词的概率就远高于动词。2.RN原创 2022-04-28 20:39:08 · 1918 阅读 · 3 评论