机器学习
文章平均质量分 70
。
xiao_kong_long_
这个作者很懒,什么都没留下…
展开
-
PCA 主成分分析
PCA是降维过程中常见的算法。降维的目的是消除大量特征中高度冗余的特征。假设我们要把样本从n维降到k维,PCA求解的关键有两个:1、如何求出k个方向向量;2、如何得到每个样本的k维表示算法流程如下1、数据预处理每个数据减去平均值使得处理后的数据平均值为0;规范化2、求协方差矩阵3、用奇异值分解来求协方差矩阵的特征向量(这里使用了Octave的svd函数)4、求出结果上一步的结果U是n个特征列向量组...原创 2022-05-01 17:03:22 · 909 阅读 · 0 评论 -
SVM 支持向量机
为了了解SVM,我们需要从逻辑回归出发。这是逻辑回归的函数式以及函数图像现在来看看逻辑回归的损失函数这个函数看起来很复杂,其实不然,因为y的取值只能是0和1,所以这是一个分类讨论的情况这是分类讨论的结果,当y=1的时候,是左图的函数,要想它为0,则必须要远大于0,此时,我们可以用一个折线来近似模拟曲线,我们称此折线为 。y=0的情况也类似。于是,我们通过替换之前两种情况的函数,可以得到SVM的损失函数损失函数除了替换部分外,还进行了一些形式上的变换,但影响不大。通原创 2022-04-30 15:46:28 · 278 阅读 · 0 评论