深度学习
唐-import-某人
放笔记
展开
-
长度式记忆网络LSTM入门
LSTM核心1.单元状态(LSTM独有)联系三个门的结构,为数据做更新。1.与遗忘门结构相乘2.与输入门结果相加3.经过sigmoid函数计算4.与输出门结果相乘2.遗忘门:决定信息是否保存方法: 通过sigmoid函数(上一个隐状态信息,当前输入信息)计算并压缩为[0,1]的值,决定是否保留。近0丢弃,近1保留3.输入门:更新单元状态1.通过sigmoid函数(上一个隐状态信息,当前输入信息)计算为[0,1]的值决定更新那些值,近0不主要,近1重要2.通过tanh函数(上一个隐原创 2021-09-03 19:54:50 · 107 阅读 · 0 评论 -
循环神经网络的RNN入门
一.RNN认知循环神经网络: 对序列型数据进行建模的深度模型记忆: 区别简单的网络结构,输入层,隐层,输出层之间相互连接(达到输出反馈的记忆修改)1.RNN的结构实现1.RNN在起始训练时隐层有一个初始态(start)2.RNN在训练途中会根据结果反馈并改变隐层①RNN训练结构图②RNN示例(GIF)2.RNN缺点1.只适合短系列(期)记忆:记忆遗忘是根据时间节点而非重要程度梯度(爆炸/消失):newnewnew weight=weight−learningrate∗gr原创 2021-09-03 19:52:37 · 76 阅读 · 0 评论 -
卷积神经网络CNN入门
轮廓识别一.基础概念选择一个局部区域,用这个局部区域去扫描整张图片,连接局部区域所圈起的节点连接到下一个层的一个节点上、1.全连接OS大数据宽依赖(1)全连接(2)宽依赖2.局部连接(1)局部连接3.非线性映射通过激活函数对输入值进行激活(过滤)4.filter一个[n,n…,n](n>0)的矩阵框,用于图片扫描****及特征提取示例: 第一副GIF中的红框就是(2*2)5.高维输入[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-QwZl原创 2021-08-03 16:13:23 · 472 阅读 · 0 评论