Deep learning--------------Independent Component Analysis(ICA)

最新推荐文章于 2021-06-09 16:14:12 发布
最新推荐文章于 2021-06-09 16:14:12 发布
阅读量819 收藏 1
点赞数
分类专栏： Deep Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012796064/article/details/17147985
版权
独立成分分析(ICA)是一种学习线性无关且正交基的模型，常用于数据分解。在深度学习中，ICA通过优化目标函数，确保基的线性无关性，并通过正交化约束得到正交矩阵。在优化过程中，使用梯度下降法并结合正交化步骤更新权重矩阵W。在实际应用中，对输入数据进行ZCA白化，但需要注意与PCA白化的区别，ICA模型中的正交化更新已包含了白化过程。
摘要由CSDN通过智能技术生成

在sparse coding模型中，学习到的基是超完备集的，也就是说基集中基的个数比数据的维数还要大，那么对一个数据而言，将其分解为基的线性组合时，这些基之间本身就是线性相关的。如果我们想要得到线性无关的基集，那么基集中元素的个数必须小于或等于样本的维数，本节所讲的ICA（Independent Component Analysis，独立成分分析）模型就可以完成这一要求，它学习到的基之间不仅保证线性无关，还保证了相互正交。本节主要参考的资料见：Independent Component Analysis

最低0.47元/天 解锁文章
jingruixiaozhuang
关注
专栏目录
无监督学习特征--稀疏编码、深度学习、ICA部分代表文献-------之一
zhoutongchi的专栏
11-16 5510
l         学习映射函数及在行为识别/图像分类中应用的文献（模型与非模型之间存在关联，算法相互采用，没有明确的区分，含仿生学文献） % 研究重点放到ICA模型及深度学习兼顾稀疏编码 1）稀疏编码（稀疏编码、自动编码、递归编码）： [1] B. Olshausen and D. Field. Emergence of simple-cell receptive field propert
深度学习入门整理学习（二）
qq_42746595的博客
01-23 1945
深度学习入门 深度学习横跨矩阵论、概率论与数理统计、信息论、博弈论、最优化等理论，并融合机器学习、数据挖掘、大数据、人工智能等领域技术，是具有深度和广度的综合范例 数学基础 矩阵论 （1）正交矩阵 A为n阶方阵 如果矩阵A和矩阵A的转置矩阵相乘结果为n阶单位矩阵 正交矩阵在矩阵变换、对角化等方面发挥重要的作用。 （2）矩阵的行列式 矩阵A的行列式定义为 n为该排列的逆序数，k1,k2,k3…kn...
AI-图书馆（一）
ailib的博客
07-20 2660
AI、计算机视觉、深度学习知识整理库
计算机视觉论文-2021-06-08
中科院AI算法工程师的博客
06-09 3749
本专栏是计算机视觉方向论文收集积累，时间：2021年6月4日，来源：paper digest 欢迎关注原创公众号【计算机视觉联盟】，回复【西瓜书手推笔记】可获取我的机器学习纯手推笔记！ 直达笔记地址：机器学习手推笔记（GitHub地址） 1, TITLE:End-to-End Neuro-Symbolic Architecture for Image-to-Image Reasoning Tasks AUTHORS: Ananye Agarwal ; Pradeep Shenoy ; ...
WORDBOOK - ForeverStrong Cheng - YongQiang Cheng
既然选择了远方 便只顾风雨兼程 - 永强
05-08 1040
WORDBOOK - ForeverStrong Cheng - YongQiang Cheng long short-term memory，LSTM：长短期记忆 recurrent neural network，RNN：循环神经网络 recursive neural network，RvNN：递归神经网络 deep neural network，DNN：深度神经网络 artificial intelligence，AI：人工智能 machine intelligence，MI：机器智能 digital
人工智能学习笔记--专业词汇
zack_GZ的博客
12-15 1066
词汇内容引自 博客教主 的博文 -AI人工智能词汇集- 这里收藏博文中的词汇中英对照以供日后学习查询Letter A Accumulated error backpropagation 累积误差逆传播 Activation Function 激活函数 Adaptive Resonance Theory/ART 自适应谐振理论 Addictive model 加性学习 Advers
[机器学习] UFLDL笔记 - ICA（Independent Component Analysis）（Representation）
WangBo的机器学习乐园
01-06 8362
本文主要记录我在学习ICA（独立成分分析）过程中的心得笔记，对于ICA模型的理解和疑问，也纠正网络上一些Tutorial、资料和博文中的错误，欢迎大家一起讨论。
论文解读-Unsupervised Audio Source Separation using Generative Priors
weixin_44305824的博客
03-20 1437
Unsupervised Audio Source Separation using Generative Priors论文解读 本文以读懂Unsupervised Audio Source Separation using Generative Priors论文（Interspeech2020）为主线，对WaveGAN、Deep Audio Prior(DAP)、Projected Gradient Descent(PGD) optimization等该论文所应用的方法一并做了解读，以帮助读者更好地理解
笔记：ML-LHY-13：Unsupervised Learning - Linear Methods
upup
10-08 198
Unsupervised Learning 无监督学习有2种
基于深度学习的Person Re-ID（度量学习）
跟随技术的脚步-linolzhang的专栏
05-06 8108
度量学习 是指 距离度量学习，Distance Metric Learning，简称为 DML，做过人脸识别的童鞋想必对这个概念不陌生，度量学习是Eric Xing在NIPS 2002提出。        这并不是个新词，说的直白一点，metric learning 是通过特征变换得到特征子空间，通过使用度量学习，让类似的目标距离更近（PULL），不同的目标距离更远（push），也就是说，度量学
Deep learning----------Deep Belief Networks
精锐小庄的专栏
12-04 2821
DBN是由Hinton在2006年提出的一种概率生成模型, 由多个限制玻尔兹曼机(RBM)[3]堆栈而成:   在训练时, Hinton采用了逐层无监督的方法来学习参数。首先把数据向量x和第一层隐藏层作为一个RBM, 训练出这个RBM的参数(连接x和h1的权重, x和h1各个节点的偏置等等), 然后固定这个RBM的参数, 把h1视作可见向量, 把h2视作隐藏向量, 训练第二个RB
Deep learning----------Self-taught learning
精锐小庄的专栏
12-05 1901
Self-taught leaning是用的无监督学习来学习到特征提取的参数，然后用有监督学习来训练分类器。这里无监督学习和有监督学习分别是用的sparse autoencoder和softmax regression. 如果已经有一个足够强大的机器学习算法，为了获得更好的性能，最靠谱的方法之一是给这个算法以更多的数据。机器学习界甚至有个说法：“有时候胜出者并非有最好的算法，而是有更多的
deep learning demo
精锐小庄的专栏
02-06 1878
Theano http://deeplearning.net/software/theano/ code from: http://deeplearning.net/   Deep Learning Tutorial notes and code https://github.com/lisa-lab/DeepLearningTutorials code fro
The basic knowledge of deep learning
精锐小庄的专栏
12-01 1815
教程中的一些术语: 　　Model representation: 　　其实就是指学习到的函数的表达形式，可以用矩阵表示。 　　Vectorized implementation: 　　指定是函数表达式的矢量实现。 　　Feature scaling： 　　指是将特征的每一维都进行一个尺度变化，比如说都让其均值为0等。 　　Normal equations
Regression(4)-------Logistic Regression & Regularization
精锐小庄的专栏
12-01 1703
本讲内容： Logistic Regression ========================= (一)、Classification （二）、Hypothesis Representation （三）、Decision Boundary （四）、Cost Function （五）、Simplified Cost Function and Gradi
Deep learning---------------Back propagation Algorithm（BP algorithm)
精锐小庄的专栏
12-02 1689
假设我们有一个固定样本集 ，它包含  个样例。我们可以用批量梯度下降法来求解神经网络。具体来讲，对于单个样例 ，其代价函数为： 这是一个（二分之一的）方差代价函数。给定一个包含  个样例的数据集，我们可以定义整体代价函数为： 以上公式中的第一项  是一个均方差项。第二项是一个规则化项（也叫权重衰减项），其目的是减小权重的幅度，防止过度拟合。 [注：通常权重衰减
Deep learning---------------Convolution Network
精锐小庄的专栏
12-01 1490
深度网络结构是由多个单层网络叠加而成的，而常见的单层网络按照编码解码情况可以分为下面3类： 既有encoder部分也有decoder部分：比如常见的RBM系列（由RBM可构成的DBM, DBN等），autoencoder系列(以及由其扩展的sparse autoencoder, denoise autoencoder, contractive autoencoder, saturating
机电系统音频故障诊断：EMD-ICA方法探索
“基于EMD-ICA的机电系统音频故障诊断方法研究”是由申付波撰写的一篇工学硕士论文，其研究重点在于利用经验模态分解（EMD）和独立成分分析（ICA）对机电系统的音频故障进行诊断。这篇论文是在李铁军教授的指导下...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值