![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习与深度学习
BrightHao_zi
天道酬勤
展开
-
PCA (Principle component analysis) (主成分分析)
1.以一个二维数据为例说明PCA的目标如上图所示,我们要在二维空间中找到一个维度(一个vector),将原数据集上的数据映射到这个vector上进行降维。如果没有施加限制,那么我们有无穷多种映射方法。但是,我们知道,为了使数据集含有更多的信息,我们应该尽可能将降维后的数据区分开。以上图为例,如果选择Small variance的那条向量,很多数据点映射后挤在一起,那么我们就会损失许多有用信息。因此,PCA就是要找出一条vector,使数据降维后,有最大的方差。转化成数学公式就是:Var(z1)=1N原创 2020-10-21 12:36:26 · 614 阅读 · 0 评论 -
分类
分类(classification)分类的任务是给定一个样本,根据这个样本的特征输出这个样本属于哪一个类别。训练过程是使模型在训练集和测试集上达到最高的分类准确率。分类模型的构建分为两种:Discriminative和GenerativeGenerative的方法是首先假设数据服从某种分布,而后基于这种假设去找到数据集服从分布的均值μ\muμ和方差σ\sigmaσ,而后根据此求得模型参数w,bw,bw,b,再根据贝叶斯公式求得样本xix_ixi属于类别CiC_iCi的概率。Discriminat原创 2020-09-18 16:57:57 · 425 阅读 · 0 评论 -
回归
回归(regression)1.函数空间(function space)一个函数越复杂, 它的function space就越大。我们回归任务实际上是在函数空间中找到效果最好的function。找到合适的函数空间非常重要。若函数空间过小,最有函数不在所选的函数空间内,则不论怎么优化都无法找到最优函数。e.g.如图,model是选择的function space,红色圆心是target function。则在当前model里无法得到target function。如果函数空间过小,则可能会产生原创 2020-09-14 21:54:56 · 356 阅读 · 0 评论