PCA Whitening ZCA Whitening

最新推荐文章于 2023-12-01 11:27:13 发布
VIP文章 最新推荐文章于 2023-12-01 11:27:13 发布
阅读量872 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ls617386/article/details/73323635
版权

本篇文章主要内容来自于Andrew的书，链接为http://ufldl.stanford.edu/tutorial/unsupervised/PCAWhitening/

PCA

PCA也就是主成分分析，是用来降维的一种手段，它可以显著地提高算法的运行速度。
当你在处理图像的时候，输入通常是冗余的，这是因为图像中相邻的像素点往往是关联的，PCA可以用来将图像的原始输入近似为一个更低维度的输入，并且保证误差较小。

对于降维的一个直观理解如下图所示：
这里写图片描述
原始图像中数据是二维的，但是明显看出数据是近似于某种线性结构的。PCA可以将数据投影到一个一维子空间上。
这里写图片描述
定义矩阵：

Σ=1m∑i=1m(x(i))(x(i))
最低0.47元/天 解锁文章
Echo0713
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
ZCA 白化用于图像分类 ZCA 白化：此演示展示了如何对图像分类进行 ZCA 白化变换。在此演示中，ZCA 白化作为深度学习分类的预处理。-matlab开发
06-01
[英语] 该演示展示了如何实现 ZCA 白化以输入到卷积神经网络 (CNN)。 其解释请参考补充文件。 CNN 的输入层可以自动对图像进行归一化通过指定“ zscore”。 但是到2020a还没有实现ZCA白化，这个脚本最后定义了ZCA函数作为辅助函数。 [日本人]在这个演示中，ZCA 白化作为深度学习分类的预处理。 ZCA美白请参考参考资料。如果在定义图像输入层时指定'zscore'，则可以自动进行预处理。但是，尽管您可以使用均值、标准偏差等进行“逐像素”预处理，但考虑到“像素间”信息的 ZCA 认识到，在 2020a 中，无法在“”内指定名称。 ZCA美白可以非常有效[4]，取决于数据和网络等许多条件，它可能对提高准确性的贡献不大。 [参考] [1] Matlab 答案：如何将 PCA 应用于图像以通过示例降低其维数？ https://jp.mathworks.com/matlab
机器学习（七）白化whitening
热门推荐
hjimce的专栏
03-12 6万+
输入数据集X，经过白化处理后，新的数据X'满足两个性质： (1)特征之间相关性较低； (2)所有特征具有相同的方差。 其实我们之前学的PCA算法中，可能PCA给我们的印象是一般用于降维操作。然而其实PCA如果不降维，而是仅仅使用PCA求出特征向量，然后把数据X映射到新的特征空间，这样的一个映射过程，其实就是满足了我们白化的第一个性质：除去特征之间的相关性。因此白化算法的实现过程，第一步操作就是PCA，求出新特征空间中X的新坐标，然后再对新的坐标进行方差归一化
白化（Whitening） PCA白化 ZCA白化
weixin_36670529的博客
06-14 1701
目录 1、PCA白化 2、ZCA白化 3、PCA白化和ZCA白化的区别 4、正则化 白化是一种重要的预处理过程，其目的就是降低输入数据的冗余性，使得经过白化处理的输入数据具有如下性质：(i)特征之间相关性较低；(ii)所有特征具有相同的方差。 白化处理分PCA白化和ZCA白化，PCA白化保证数据各维度的方差为1，而ZCA白化保证数据各维度的方差相同。PCA白化可以用于降维也可以去相关性......
白化（Whitening）：PCA vs. ZCA
weixin_33851604的博客
12-13 745
2019独角兽企业重金招聘Python工程师标准>>> ...
LRN (Local Response Normalization，即局部响应归一化层)
Learning by doing
02-02 1万+
LRN (Local Response Normalization，即局部响应归一化层) （一）先看看归一化吧 什么是归一化？ 归一化化是归纳统一样本的统计分布性。就是要把你需要处理的数据经过处理后（通过某种算法）限制在你需要的一定范围内。 为什么要归一化，归一化目的是什么？ （1）为了后面数据处理的方便，归一化的确可以避免一些不必要的数值问题。 （2）为了
PCAPLDA.rar_lda_lda pca_pca whitening_pca+lda_whitening
07-14
a good algorithm for whitening (PCA) and LDA use PCA and LDA respectively
Stanford UFLDL教程 Exercise: PCA and Whitening
11-07
Whitening在一些文献中也叫sphering，目的就是降低输入的冗余性；更正式的说，我们希望通过白化过程使得学习算法的输入具有如下性质： 　(i) 特征之间相关性较低； 　(ii) 所有特征具有相同的方差。
PCA and Whitening
01-06
是PCA和白化算法的完整资料，内保包含数据文件以及执行的代码。
UFLDL Tutorial Exercise Answer 练习答案—PCA and ZCA
07-30
UFLDL Tutorial Exercise Answer 练习答案—PCA and ZCA白化代码，个人觉得这个白化讲的不是很好，有时间我会在博客里写一篇有关ZCA白化原理的文章
Exercise4 PCA and Whitening.zip_PCA去相关_pca降维_whitening_数据预处理 mat
07-15
UFLDL-Tutorial-Exercise-master练习，用于数据预处理，pca和白化预处理，去相关性降维处理。
ZCA
tongle.wang Homepage
12-20 2400
CNN数值——ZCA 冯超 · 4 个月前 前面我们已经讲了很多有关参数合并的事情，反倒忘了介绍有关输入数据的事情，下面就来介绍一下对输入数据的初始化算法。 在Caffe的网络描述中，data layer的配置中有一项是用于配置mean_file，也就是数据的平均数值，在计算中每个数据在进入网络计算前会减去mean_file，以确保数据的整体均值为0，这样对于训练数据会更有帮助。
AlexNet论文解读
David Lee的博客
02-19 3809
AlexNet论文翻译及解读
【2022版】基于矩阵分解的PCA 白化&ZCA白化
SUFEHeisenberg的博客
11-14 544
【2022版】基于矩阵分解的PCA 白化&ZCA白化
LRN 局部响应归一化层（Local Response Normalization）
FY_2018的博客
09-01 938
局部响应归一化层（Local Response Normalization） 局部响应归一化层简称LRN，是在深度学习中提高准确度的技术方法。一般是在激活、池化后进行的一中处理方法，因在Alexnet中运用到，故做一下整理。 为什么要引入LRN层？ 首先要引入一个神经生物学的概念：侧抑制（lateral inhibitio），即指被激活的神经元抑制相邻的神经元。归一化（normaliazation）的目的就是“抑制”,LRN就是借鉴这种侧抑制来实现局部抑制，尤其是我们使用RELU的时候，这种“侧抑制
数据预处理----白化(Whitening)
最新发布
zzylalalala的博客
12-01 1028
我对【零相位】的理解就是，相对于原来的空间（坐标系），白化后的数据并没有发生旋转（坐标变换）。ZCA白化则是在PCA白化基础上，将PCA白化后的数据旋转回到原来的特征空间，这样可以使得变换后的数据更加接近原始输入数据。那么我们要怎样旋转才能得到不想关的数据呢，实际上，在协方差矩阵中，其特征向量指示的就是数据扩散的最大方向。当特征多项式等于0的时候，称为A的特征方程，特征方程是一个齐次线性方程组，求解特征值的过程其实就是求解特征方程的解。即原始数据存在一定的相关性，我们想要旋转数据以使得数据不在存在相关性。
【深度学习】深度学习的归一化方法的演变（局部响应LRN，BN，LN, IN, GN, FRN, WN, BRN, CBN, CmBN）
Danger的博客
03-22 1002
【深度学习】深度学习的归一化方法的演变（局部响应LRN，BN，LN, IN, GN, FRN, WN, BRN, CBN, CmBN）
详解LRN（local response normalization--局部响应标准化）缓解过拟合
qq_45704645的博客
11-27 2255
局部响应归一化层（Local Response Normalization） LRN全称为Local Response Normalization，即局部响应归一化层，LRN函数类似Dropout和数据增强作为relu激活函数之后防止数据过拟合而提出的一种处理方法。这个函数很少使用，基本上被类似Dropout这样的方法取代. 为什么要引入LRN层？ 首先要引入一个神经生物学的概念：侧抑制（lateral inhibitio），即指被激活的神经元抑制相邻的神经元。归一化（normaliazation）的目的
keras中的zca_whtening白化处理
liguandong
02-25 3219
白化：是一个比PCA稍微高级一点的算法。白化的目的就是去除输入数据中的冗余信息，假设训练数据是图像，由于图像中相邻的像素之间有很强的相关性，所以用于训练时输入是冗余的，白化的目的就是降低输入的冗余性。 其实从高光谱遥感影像的角度上，可能是可以一试的预处理。 输入数据集X，经过白化之后： 1.特征之间相关性较低。 2.所有特征具有相同的方差。 PCA作为降维算法，一般通过求出原数据的特征向
机器学习-Whitening（白化）
weixin_34400525的博客
04-26 5297
　　whitening (白化)这个词，可能在深度学习领域比较常遇到，其实whitening 是一个比PCA稍微高级一点的算法而已，所以如果熟悉PCA，那么其实会发现这是一个非常简单的算法。 　　假设训练数据是图像，由于图像中相邻像素之间具有很强的相关性，所以用于训练时输入是冗余的；whitening （白化）的目的就是降低输入的冗余性。输入数据集X，经过白化处理后，新的数据X'满足两个性质：　...
局部pca和整体pca
08-29
局部PCA和整体PCA是两种常见的数据降维技术，其主要区别在于应用范围和数据处理方式。 局部PCA是一种局部特征提取方法，其主要针对局部区域进行主成分分析。在图像处理中，局部PCA可以将图像分成不重叠的小块，然后...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值