math
文章平均质量分 76
inCorning
In the meanwhile I smile and I sing all alone.
展开
-
正则化中 L1范数与L2范数的区别
把答案放在前面L0范数是指向量中非0的元素的个数。(L0范数很难优化求解) L1范数是指向量中各个元素绝对值之和L2范数是指向量各元素的平方和然后求平方根 L1范数可以进行特征选择,即让特征的系数变为0.L2范数可以防止过拟合,提升模型的泛化能力,有助于处理 condition number不好下的矩阵(数据变化很小矩阵求解后结果变化很大) (核心:L2对大数,对outlier离群点更敏感!) 下降速度:最小化权值参数L1比L2变化的快 模型空间的限制:L1会产生稀疏 L2不会。 L1会趋向于产生少量的特征转载 2021-03-22 21:34:16 · 877 阅读 · 1 评论 -
[DL笔记] Attention机制
本文主要对Attention机制进行了简单的介绍。1. 介绍(1)人脑对信息的过滤其实就是一种注意力机制。注意力机制一般分为两种:聚焦式(Focus)注意力:是一种自上而下的有意识的注意力;显著性(Saliency-Based)注意力:是一种自下而上的无意识的注意力。(2)目前的神经网络中,可以将 池化(max pooling)、门控(Gating) 近似看作是自下而上的基于显著性的注意力机制;而接下来描述的则是自上而下的聚焦式注意力机制。(3)注意力分布: 为了从个输入向量中选择出和某个特定任务相关的信息转载 2021-01-27 12:38:18 · 613 阅读 · 0 评论 -
numpy不同阶数张量相加问题(broadcast)
设有 阶张量 , 阶张量 。如果 和 的最后 个维度相等。且其中一个张量,不妨设为 ,的前 个都等于1或者 。则这两个张量可以进行有效的相加。就好比一个低阶的张量加到高阶的张量的每个元素上去。最典型的有样本数据的去中心化操作, 。 是数据向量(1阶张量),而 则是标量(0阶张量),是一个更高阶张量的每个元素减去低阶张量的操作,而每个元素需要与低阶张量有相同的形状(shape)。而最终相加后的到的张量的阶数是相对高阶张量的阶数。例子:import numpy as np2阶张量+3阶转载 2021-01-21 22:31:11 · 588 阅读 · 0 评论 -
几种常见窗函数及其特性
class=“Button ColumnPageHeader-MenuToggler Button–plain”>几种常见窗函数的特性greedyhao一个高级的搬运工关注他12 人赞同了该文章解决一下上一篇的遗留问题上一篇谈了FIR滤波器的加窗是什么,但是自觉得还是有些地方没有说明白,就好比模拟加窗过程都没有讲明白。不过今天再看书时,又有所得,忽然明白了为什么模拟加窗过程出了问题,这是由于我之前对于数字滤波器的设计过程还很模糊。窗函数设计法的设计思路:给定要求的理想频响,一般为分段常数转为时域设计转载 2020-06-12 23:09:04 · 14937 阅读 · 1 评论 -
一图一公式搞懂:准确率(accuracy) vs 精确率(precision) vs 召回率(recall) vs F1分数 vs 灵敏度,特异度,真正率,假正率 vs ROC/AUC
准确率(accuracy) = 预测对的/所有 = TP+TNTP+FN+FP+TN=70\frac{TP+TN}{TP+FN+FP+TN} = 70%TP+FN+FP+TNTP+TN=70精确率(precision) = TPTP+FP=80\frac{TP}{TP+FP} = 80%TP+FPTP=80召回率(recall) = TPTP+FN=23\frac{TP}{TP+FN} = \frac{2}{3}TP+FNTP=32...原创 2020-06-03 18:43:12 · 2507 阅读 · 0 评论 -
一文读懂 YUV 的采样与格式(仅供个人阅读-格式较丑)
RGB 颜色编码YUV 颜色编码RGB 到 YUV 的转换YUV 采样格式YUV 4:4:4 采样YUV 4:2:2 采样YUV 4:2:0 采样YUV 存储格式基于 YUV 4:2:2 采样的格式YUYV 格式UYVY 格式YUV 422P 格式基于 YUV 4:2:0 采样的格式YU12 和 YV12 格式NV12 和 NV21 格式小结参考 <p>YUV 是一种颜色编码方法,和它等同的还有 RGB 颜色编码...转载 2020-05-31 14:16:23 · 1246 阅读 · 0 评论 -
离散数学在计算机科学中的应用
下面说说离散数学的应用。离散数学在数据结构中的应用数据结构中将操作对象间的关系分为四类:集合、线性结构、树形结构、图状结构或网状结构。数据结构研究的主要内容是数据的逻辑结构,物理存储结构以及基本运算操作。其中逻辑结构和基本运算操作来源于离散数学中的离散结构和算法思考。离散数学中的集合论、关系、图论、树四个章节就反映了数据结构中四大结构的知识。如集合由元素组成,元素可理解为世上的客观事物。关系是集合的元素之间都存在某种关系。例如雇员与其工资之间的关系。图论是有许多现代应用的古老题目。瑞士数学家列昂哈德·欧转载 2020-05-26 17:29:50 · 3820 阅读 · 0 评论 -
空域、频域、时域的解释
基本概念:空间域:(spatial domain)也叫空域,即所说的像素域,在空域的处理就是在像素级的处理,如在像素级的图像叠加。通过傅立叶变换后,得到的是图像的频谱。表示图像的能量梯度。频率域:(frequency domain。)任何一个波形都可以分解用多个正弦波之和。每个正弦波都有自己的频率和振幅。所以任意一个波形信号有自己的频率和振幅的集合。频率域说的就是这个。频率域就是空间域经过傅立叶变换的信号时域(时间域)——自变量是时间,即横轴是时间,纵轴是信号的变化。其动态信号x(t)原创 2020-05-13 15:14:40 · 3969 阅读 · 0 评论 -
"Simple and Practical Algorithm for Sparse Fourier Transform"中的 ℓ 2 /ℓ 2 guarantee
读了上面的解释,我的理解是 这个估计满足2-范数保证更加深入的理解读完论文后补充原创 2020-04-06 23:30:40 · 418 阅读 · 0 评论 -
范数公式及解释(向量范数及矩阵范数)
转载 2020-04-06 23:10:45 · 2713 阅读 · 0 评论 -
最小边覆盖 & 最小路径覆盖 & 最小顶点覆盖 & 最大独立集 & 最大团
最小边覆盖 = 最大独立集 = |V| - 最大匹配数这个是在原图是二分图上进行的最小路径覆盖和最小边覆盖不同,不要求给的图是二分图,而是要求是N x N的有向图,不能有环,然后根据原图构造二分图,构造方法是将点一分为二,如,i分为i1和i2然后如果i和j有边,那么就在i1和j2之间连一条边。由此构成二分图然后最小路径覆盖 = n-m,n为原图的点的个数,m为新造二分图的最大匹配。证明也是特...转载 2019-12-17 17:30:07 · 636 阅读 · 0 评论