机器学习算法面试—口述（6）：数据的简化（PCA、SVD）

最新推荐文章于 2024-04-16 08:38:32 发布
最新推荐文章于 2024-04-16 08:38:32 发布
阅读量3.2k 收藏 3
点赞数
分类专栏： 机器学习 面试 口述各种机器学习相关算法（用于面试） 文章标签： 机器学习 PCA SVD
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xwchao2014/article/details/48003855
版权
本文介绍了PCA和SVD两种降维技术在机器学习面试中的重要性。PCA寻找数据的主成分，通过最大化方差进行降维；SVD将数据矩阵分解，提取关键信息。两者常用于降低数据复杂性，但可能损失部分信息。
摘要由CSDN通过智能技术生成

这个系列是为了应对找工作面试时面试官问的算法问题，所以只是也谢算法的简要介绍，后期会陆续补充关于此

算法的常见面问题


一、PCA（主成分分析）

最低0.47元/天 解锁文章
xwchao2014
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习/人工智能的笔试面试题目——PCA降维相关问题总结
FPGA/MATLAB学习教程/源码/项目合作开发
08-24 592
协方差矩阵的特征向量。
机器学习面试-降维算法LDA和PCA（白板推导）
qq_38489833的博客
07-01 2738
降维算法分为： 1.直接降维， 特征选择 2. 线性降维， PCA， MDS等 3. 分流线， 流线包括lsomap , LLE等 降维的目的： 1. 减少预测变量的个数 2. 确保这些变量是相互独立的 3. 数据在低纬度时候更容易处理， 更容易使用 4. 去除噪数据噪声 5. 降低算法的运算开销 1. 线性判别分析LDA LDA的 核心思想就是投影后类内方差小， 类间方差最大 LDA算法的优缺点： 优点： 可以使用类别的先验知识 以标签， 类别衡量差异性的 有监督降维算法， 相对于PCA的模糊性，
数据分析面试【机器学习】总结之-----PCA主成成分分析 常见面试题整理
天阑之蓝的博客
08-14 3441
阅读之前看这里????：博主是正在学习数据分析的一员，博客记录的是在学习过程中一些总结，也希望和大家一起进步，在记录之时，未免存在很多疏漏和不全，如有问题，还请私聊博主指正。 博客地址：天阑之蓝的博客，学习过程中不免有困难和迷茫，希望大家都能在这学习的过程中肯定自己，超越自己，最终创造自己。 目录1.PCA定义2.PCA具体计算步骤3.降维之后的维度怎么确定4.降维的必要性5.降维的目的：6.给你一个数据集。该数据集包含很多变量，你知道其中一些是高度相关的。经理要求你用PCA。你会先去掉相关的变量吗？为什
机器学习面试必知：最大方差理论和最小平方误差理论下的PCA(主成分分析)的公式推导
Neekity的博客
02-25 3120
最大方差理论 PCA（主成分分析），旨在找到数据中的主成分，并利用这些主成分表征原始数据从而达到降维的目的。在信号处理领域，我们认为信号具有较大方差，而噪声具有较小方差。因此我们不难引出PCA的目标即最大化投影方差，也就是让数据在主轴上投影的方差最大（在我们假设中方差最大的有用信号最大化减少了噪声的影响）。 对于给定的一组数据点{v1,...,vn}\left\{v_{1},...,v_{n}...
机器学习面试题之PCA（八）
jaffe507的博客
03-27 3341
1.PCA降维 降维的必要性 多重共线性–预测变量之间相互关联。多重共线性会导致解空间的不稳定，从而可能导致结果的不连贯。 高维空间本身具有稀疏性。一维正态分布有68%的值落于正负标准差之间，而在十维空间上只有0.02%。 过多的变量会妨碍查找规律的建立。 仅在变量层面上分析可能会忽略变量之间的潜在联系。例如几个预测变量可能落入仅反映数据某一方面特征的一个组内。 降维的目的： 减少预测变量...
机器学习与算法源代码12： 数据降维之PCA主成分分析.zip
05-18
PCA（主成分分析，Principal Component Analysis）是一种常用的数据降维技术，在机器学习和数据分析领域有着广泛的应用。通过PCA，我们可以将原始数据集转换为一组新的坐标系统，其中新坐标系的轴按照数据方差的大小...
机器学习算法之PCA特征降维算法实现.zip
04-20
PCA（主成分分析，Principal Component Analysis）是一种广泛应用的无监督机器学习算法，它主要用于数据预处理，特别是高维数据的降维。PCA通过线性变换将原始数据转换为一组各维度线性无关的新变量，即主成分，这些...
机器学习算法之使用Python实现PCA算法.zip
最新发布
04-20
Python是数据科学和机器学习领域的主流编程语言，其拥有丰富的库支持PCA算法的实现，如Numpy、Scikit-learn等。以下我们将详细讨论PCA的原理、Python实现以及其在实际应用中的作用。 1. PCA原理： - 数据标准化：...
面试题目
svdalv
08-11 388
局部最优解方法，梯度下降，牛顿迭代，区别，深度学习为什么不用牛顿迭代 全局最优的方法： 方差与偏差的区别 SVM与LR的区别， 损失函数的区别 随机森林与ADBOOST的方差与偏差的区别 防止过拟合的方法;L!与L2的区别，为什么 旋转不变特征：sift为什么具有旋转不便特征 边缘检测方法 CNN 防止过拟合的方法：drop out ,batch normalization
算法工程师面试之PCA降维
说文科技，做有态度的研究。
09-05 306
PCA降维以及其在文本领域的使用。
PCA和SVD总结
qq_31638535的博客
03-26 419
PCA实际上可以通过SVD去实现，PCA本质上就是SVD的列方向的一个降维，不仅SVD可以做列方向的降维，还能做行方向的降维。 PCA的推到需要用到两个方面的知识：矩阵求导和拉格朗日乘子法。 矩阵求导：https://blog.csdn.net/daaikuaichuan/article/details/80620518#commentBox 拉格朗日乘子法（看计算过程即可，大学学过，有点忘...
机器学习降维算法一：PCA (Principal Component Analysis)
weixin_34204722的博客
11-24 123
引言： 机器学习领域中所谓的降维就是指采用某种映射方法，将原高维空间中的数据点映射到低维度的空间中。降维的本质是学习一个映射函数 f : x->y，其中x是原始数据点的表达，目前最多使用向量表达形式。 y是数据点映射后的低维向量表达，通常y的维度小于x的维度（当然提高维度也是可以的）。f可能是显式的或隐式的、线性的或非线性的。 当然还有一大类方法本质上也是做了降维，叫做feature s...
《机器学习十三、十四章 PCA、SVD简化数据》
weixin_43955530的博客
03-11 194
from numpy import * import matplotlib.pyplot as plt from scipy import * from numpy import linalg as la def loadDataSet(fileName, delim='\t'): fr = open(fileName) stringArr = [line.strip().sp...
机器学习：PCA和SVD的关系
huakai16的博客
01-06 783
原博客地址：从PCA和SVD的关系拾遗 自己写的代码，可视化博客的理论观点：点这里
py2.7《机器学习实战》利用PCA来简化数据
Kelisiya
03-24 738
最近看了PCA降维，很多地方还是不理解，还是线代学的太差了，但是书上总结的还是挺精简的 一、在Numpy中实现PCA 1、伪代码： （1）去除平均值 （2）计算协方差矩阵 （3）计算协方差矩阵的特征值和特征向量（利用Numpy中的linalg方法） （4）将特征值从大到小排序 （5）保留最上面的N个特征向量 （6）将数据转换到上述N个特征构建的新空间中
svd 理解
shiqi,bao的博客
05-05 1008
看了不少论文，总结起来用SVD做推荐主要有两种不同的方式。 1 本质上是memory-based，只不过先用SVD对user-item的评分矩阵做降维，得到降维后的user特征和item特征，可以分别做userbased的协同过滤和itembased的协同过滤。 2  本质上是model-based，跟传统数学意义的SVD没有太大关系，只不过借鉴了SVD分解R=U*S*V这个形式，通过最优化方
小项目的几个面试问题【PCA/SVM/Resnet50】
nanmuchang的博客
09-11 934
面试问题PCA基本原理PCA的劣势SVM问题一：SVM为什么要把原始函数转化为对偶函数？问题二：SVM和逻辑回归有什么区别？Resnet 50——Residual net(残差网络)现存问题核心思想网络结构神经网络问题一：为什么提取特征进行训练，不直接使用原始数据训练？问题二：单层神经网络同样可以通过降低loss完成任务，为什么要使用深层神经网络？Fat+Short v.s. Tall+Thin PCA 基本原理   PCA（Principal Component Analysis） 是一种常见的数据分析方
人工智能（降维）——主成分分析（PCA)，面试复盘
2401_84138835的博客
04-16 392
书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。：矩阵的主成分就是其协方差矩阵对应的特征向量，按照对应的特征值大小进行排序，最大的特征值就是第一主成分，其次是第二主成分，以此类推。将数据X转换成降维后的数据。
Machine Learning（吴恩达＜五＞K-means和PCA)
qq_54809548的博客
11-21 1040
无监督学习1--聚类 什么是无监督学习？ 训练集只有x1，x2...,xi，没有标签y的数据。 我们要将无标签的数据输入，然后让算法找到一些隐含在数据中的结构， 把这些无标签的数据分成一簇一簇的，就是聚类算法(学习的第一个无监督学习的算法)。 聚类有哪些应用？ K-means算法 语言表述步骤 给定一组未加标签的数据集，希望有一个算法能够自动的讲这些数据分成有紧密关系的子集或簇。 K-means算法 是目前比较热门，应用较多的算法之一。 K-mean步骤：假如下图我想把数......
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值