人工智能
文章平均质量分 88
人工智能学习过程中的笔记以及感悟
勿讼
这个作者很懒,什么都没留下…
展开
-
指数加权平均
文章目录指数加权平均1 加权平均2 指数加权平均2.1 引出问题2.2 β参数2.3 偏差修正指数加权平均1 加权平均所谓加权平均就是在平均的基础上给参与平均的各项增加权重,如现有一组数据X[1…n]普通平均m=x1+x2+...+xnn加权平均m=w1x1+w2x2+...+wnxnn其中w[1..n]为权重,且∑i=1nwi=1普通平均 m = \frac{x_1+x_2+...+x_n}{n}\\加权平均m = \frac{w_1x_1+w_2x_2+...+w_nx_n}{n}\\原创 2021-07-02 22:16:25 · 356 阅读 · 0 评论 -
梯度检测笔记
文章目录梯度检测概论1 基础原理1.1 拉格朗日中值定理1.2 验证公式2 梯度检验的实现3 注意事项梯度检测概论在进行BP算法进行训练时,但是在训练时是否出现错误我们也不清楚,训练一旦开始,我们就只能观测到输出信息,如何检测反向传播算法是否正确工作呢?梯度检验来了,它通过拉格朗日定理检测偏导值与实际的偏导函数之间的误差大小来判断是否出现了错误。还有一点,在现有的训练框架中,这些细节都被封装起来了,但是作为学习,还是有必要搞清楚的其原理实现的。1 基础原理1.1 拉格朗日中值定理f(θ+ε)原创 2021-06-28 15:48:07 · 199 阅读 · 0 评论 -
归一化的几种方法
文章目录归一化1 归一化含义1.1 定义1.2 优点2 归一化的方法2.1 线性归一化2.2 标准差归一化2.3 非线性归一化归一化1 归一化含义1.1 定义 归一化是通过一定的算法处理,将原本离散的数据,限制在一定范围内。1.2 优点 1.数据分布更规范,使得梯度下降算法更有效,加快求得最优解的速度 2.提高精度2 归一化的方法2.1 线性归一化 通过线性变化,将输入值限定在(0,1)之间x′=x−min(x)max(x)−min(x)x' = \frac{x - mi原创 2021-06-27 17:26:36 · 8165 阅读 · 0 评论 -
正则化方法
文章目录正则化1 数据集的划分1.1 训练集1.2 验证集1.3 测试集2 偏差与方差2.1 高偏差(欠拟合)2.2 高方差(过拟合)3 修正网络3.1 高偏差:3.2 高方差:4 正则化4.1 L1正则化4.2 L2正则化4.3 Dropout正则化:4.3.1 反向随机失活4.3.2 为什么Dropout能达到正则化的效果?4.4 数据集增强正则化4.5 早停止策略(early stopping)4.5 早停止策略(early stopping)正则化1 数据集的划分正常情况下,主要将数据集分为原创 2021-06-26 19:51:33 · 1333 阅读 · 2 评论 -
卷积神经网络
卷积神经网络1、卷积神经网络是什么?(1)、卷积运算假设一个6 * 6的图片像素矩阵A与一个3 * 3的矩阵B进行卷积运算,则生成一个4 * 4的矩阵C.[301274158931272513013178421628245239]∗(卷积运算)[10−110−110−1]=[−5−408−10−2230−2−4−7−3−2−3−16]\left[ %左括号 \begin{array}{ccc} %该矩阵一共3列,每一列都居中放置 3 & 0 &原创 2021-06-07 10:57:05 · 420 阅读 · 0 评论