Machine Learning
文章平均质量分 71
Dust_Evc
Just love it
展开
-
深度学习训练过程耗时越来越长解决方法
自己的情况是代码中有过多的图片显示,导致每个iteration/epoch训练时间越来越长。原创 2023-06-21 13:06:57 · 1099 阅读 · 0 评论 -
Pytroch nn.Unfold() 与 nn.Fold()图码详解
`Unfold()`与`Fold()`一般成对出现。用途有:1. 代替卷积计算;2. 图片patch化。nn.Fold()是 nn.Unfold() 函数的逆操作。 (参数相同、滑动窗口没有重叠的情况下,可以完全恢复【真互逆】。滑动窗口有重叠情况下不能恢复到Unfold的输入)原创 2023-05-02 00:02:07 · 5013 阅读 · 1 评论 -
L0、L1、L2范数、核范数、优化与调参剖析、向量范数与矩阵范数
我们聊聊机器学习中出现的非常频繁的问题:过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的...转载 2019-05-03 19:57:29 · 5057 阅读 · 1 评论 -
Nvidia GPU 最新计算能力表(CUDA Compute Capability)
Jetson ProductsGPUCompute CapabilityJetson AGX Xavier7.2Jetson Nano5.3Jetson TX26.2Jetson TX15.3Tegra X15.3GeForce and TITAN ProductsGPUCompute CapabilityGeForce RTX 30908.6GeForce RTX 30808.6GeForce RTX 30708.6NVIDIA TITAN RTX7.5Geforce RTX 2080 Ti7.5G原创 2022-05-28 16:04:19 · 16002 阅读 · 0 评论 -
常见分类变量编码方法(Target、Leave-one-out、One-hot Encoding)
one-hot 编码(one-hot encoding)one-hot 编码(one-hot encoding)类似于虚拟变量(dummy variables),是一种将分类变量转换为几个二进制列的方法。其中 1 代表某个输入属于该类别。从机器学习的角度来看,one-hot 编码并不是一种良好的分类变量编码方法。众所周知,维数越少越好,但 one-hot 编码却增加了大量的维度。例如,如果用一个序列来表示美国的各个州,那么 one-hot 编码会带来 50 多个维度。one-hot原创 2022-05-25 15:36:04 · 1792 阅读 · 0 评论 -
【扫盲】机器学习图像处理中的深层/浅层、局部/全局特征
浅层特征:浅层网络提取的特征和输入比较近,蕴含更多的像素点的信息,主要为一些细粒度的信息,比如颜色、纹理、边缘、棱角信息。原理:浅层网络感受野较小,感受野重叠区域也较小,所以保证网络捕获更多细节深层特征:深层网络提取的特征离输出较近,蕴含更抽象的信息,即语义信息,主要为一些粗粒度的信息。原理:感受野增加,感受野之间重叠区域增加,图像信息进行压缩,获取的是图像整体性的一些信息。基于内容的图像检索(Content-based Image Retrieval, CBIR)方法利用从图像提取的特原创 2022-03-30 19:32:45 · 4620 阅读 · 0 评论 -
【扫盲】机器学习中模型的容量、表示容量、有效容量
我们训练机器学习模型时,可以选择训练集来拟合目标函数,降低训练误差,并缩小训练误差和测试误差的差距(欠拟合和过拟合)。模型的容量(capacity)从本质上说是描述了整个模型的拟合能力的大小。容量低的模型可能在训练集上就会很难拟合目标函数,产生而欠拟合;容量高的模型或许会在训练集上可以很好的拟合目标函数,而不具备一定的泛化能力,导致过拟合。增加模型容量的方法有很多,比如我们使用线性回归函数来拟合一个线性函数,就可以通过增加参数高次幂的方法来增加模型容量,一个5次多项式...原创 2022-03-30 23:00:55 · 3456 阅读 · 0 评论