机器学习
乐观的Madge
这个作者很懒,什么都没留下…
展开
-
稀疏编码
稀疏编码学习笔记整理(一)最近新入手稀疏编码,在这里记录我对稀疏编码的理解(根据学习进度不断更新中)一,稀疏编码的概述 稀疏编码的概念来自于神经生物学。生物学家提出,哺乳类动物在长期的进化中,生成了能够快速,准确,低代价地表示自然图像的视觉神经方面的能力。我们直观地可以想象,我们的眼睛每看到的一副画面都是上亿像素的,而每一副图像我们都只用很少的代价重建与存储。我们把它叫做转载 2016-10-16 10:13:41 · 7891 阅读 · 0 评论 -
机器学习中的范数规则化之(二)核范数与规则项参数选择
三、核范数 核范数||W||*是指矩阵奇异值的和,英文称呼叫Nuclear Norm。这个相对于上面火热的L1和L2来说,可能大家就会陌生点。那它是干嘛用的呢?霸气登场:约束Low-Rank(低秩)。OK,OK,那我们得知道Low-Rank是啥?用来干啥的? 我们先来回忆下线性代数里面“秩”到底是啥?举个简单的例子吧: 对上面的线性方程组,第转载 2016-10-06 17:49:25 · 350 阅读 · 0 评论 -
机器学习中的范数规则化 L0 L1 L2范数
今天我们聊聊机器学习中出现的非常频繁的问题:过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大,为了不吓到大家,我将这个五个部分分成两篇博文。知识有限,以下都是我一些浅显的看法,如果理解存在错误,希望大家不吝指正。谢谢。 监督机器学习问题无非就是“minimizeyour error while re转载 2016-10-06 17:46:55 · 350 阅读 · 0 评论 -
ksvd字典学习
K-SVDRachel Zhang 1. k-SVD introduction1. K-SVD usage:Design/Learn a dictionary adaptively to betterfit the model and achieve sparse signal representations.2. Main Prob转载 2016-10-08 09:37:27 · 1307 阅读 · 0 评论