喽哥-CSDN博客

原创 05 递归神经网络+LSTM & GRU

05 递归神经网络RNN+LSTM & GRU01 RNN基本结构与知识点02 LSTM 长短时记忆网络03 GRU 门控循环单元04 RNN梯度消失+过拟合问题解决方案分析01 RNN基本结构与知识点02 LSTM 长短时记忆网络03 GRU 门控循环单元04 RNN梯度消失+过拟合问题解决方案分析

2023-09-19 00:43:19 85

原创 04 CNN基本结构 + 常用各种卷积核 & 经典图像识别模型

04 CNN基本结构 + 不同类型各种卷积核 & 经典图像识别模型01 卷积神经网络基本机构与基本操作02 常用的不同类型卷积核03 经典图像识别模型（CNN）01 卷积神经网络基本机构与基本操作02 常用的不同类型卷积核03 经典图像识别模型（CNN）

2023-09-18 00:52:04 122

原创 03 过拟合 +解决手段 & Dropout + Batch Normalization

02 过拟合 +解决手段 & Dropout + Batch Normalization01 什么是过拟合02 减轻过拟合的常见手段03 Dropout04 Batch Normalization01 什么是过拟合02 减轻过拟合的常见手段03 Dropout04 Batch Normalization

2023-09-15 19:25:47 69

原创 02 优化算法+ 激活函数 & BP算法公式+问题理解

g = ΔL，初始 s r 均为 0，一阶，二阶指代损失函数的一阶偏导，二阶偏导。对于梯度小或稀疏特征，此时学习率就会比较大，对于梯度大的特征此时学习率会比较小。θ = θ - （μ/ 根号 G + ε）ΔL μ全局学习率，用户指定。引入了一个动量概念，暂且用v表示，其中μ表示动量系数，α表示学习率。理解概念，优化算法与梯度下降算法，梯度下降算法只是优化算法中的一种。收敛更稳定，收敛速度更快(小梯度参数加速，大梯度参数，减慢收敛)θ = θ + v 梯度更新，加上负梯度，最小化损失函数。

2023-09-14 18:39:12 184 1

原创 01 数据预处理常用基本方法

对于缺失值特征较少的几个数据，可以删除，或者补充，均不会导致丢失太多信息。：依据任务要求，例如 one hot 编码，embedding编码。检测重复值，通常采用遍历的方式检测重复值，然后移除。补充缺失值的方法，例如插入均值，中位数，众数。：减少多样本类别的样本数量，可能会导致信息丢失，慎重。缩放，裁剪，色彩空间转换(RGB转换为灰度图)四种：归一化，标准化，特征编码，特征降维(PCA)：常用方法 PCA LDA，用的多的还是 PCA。：增加少数类别的样本数量，常见方法 SMOTE。

2023-09-13 18:57:30 148