AI基础知识
文章平均质量分 69
图像处理/机器学习/深度学习基础知识
ctrl A_ctrl C_ctrl V
中国科学技术大学硕士,互联网公司算法工程师。
展开
-
【AutoML--模型搜索】论文阅读:Once-for-All: Train One Network and Specialize it for Efficient Deployment
论文阅读笔记:Once-for-All: Train One Network and Specialize it for Efficient Deployment原创 2023-09-05 18:28:29 · 168 阅读 · 0 评论 -
模型评估指标详解:ROC 曲线和 AUC 的计算方法
机器学习模型评估指标详解:ROC 曲线和 AUC 的计算方法,AUC 的物理意义,根据物理意义计算 AUC原创 2024-01-21 14:09:27 · 4407 阅读 · 0 评论 -
Matlab 离散小波变换函数 dwt2() 原理介绍与实验
图像信号的低频部分(低通带)表示图像的基本信息(平滑信息),而高频部分(高通带)表示图像的细节信息。2、图像中的高频部分一般持续的时间是比较短的,一般是以短时突变或者尖峰的形式出现,如图像的边缘信息和一些噪点信息。而低频信息在大部分地方存在,反应在一些背景或内容信息。原创 2022-09-06 10:10:26 · 16182 阅读 · 1 评论 -
一文彻底搞懂 Softmax 函数,数学原理分析和 PyTorch 验证
Softmax 函数的数学原理分析和 PyTorch 使用原创 2023-06-14 15:46:24 · 33173 阅读 · 4 评论 -
工程经验:残差连接对网络训练的巨大影响
所以参数没有更新的原因极有可能是梯度为0,即出现了 “梯度消失” 的现象。事实上,SegNet 有 20个卷积层和10个上/下采样层,总共有30层。这是一个层数比较多的网络,因此出现梯度消失是很正常的。从模型训练的本质上来看,loss 值固定就表示模型参数没有变化,即参数没有更新。为了解决 “梯度消失” 的问题,我们自然能想到使用残差连接,这是解决梯度消失最有效的方法之一。可以看到,loss 值快速下降到一个固定值就不再下降了。可以明显看到,仅仅加了几个残差连接,网络就可以顺利地训练了。原创 2023-02-13 20:28:47 · 699 阅读 · 0 评论 -
求解带权重的L2约束的最小二乘问题
一、不带权重的最小二乘问题问题:样本不带权重求解方法:《机器学习》周志华 P54二、不带权重的最小二乘问题问题:样本带权重、L2约束求解方法:原创 2021-10-24 16:33:20 · 653 阅读 · 0 评论 -
证明高斯分布的样本方差是真实方差的有偏估计(方法:极大似然估计)
高斯分布的样本均值是真实均值的无偏估计,但样本方差是真实方差的有偏估计。证明过程:原创 2021-10-11 16:59:41 · 1105 阅读 · 0 评论