机器学习
小宇哥学AI
又菜又爱玩,死磕 AI 新技术,学习最紧要的是开心
展开
-
机器学习——特征工程之子集搜索与评价
《机器学习》学习笔记原创 2017-10-15 18:29:56 · 1721 阅读 · 1 评论 -
机器学习——特征工程之流形学习
《机器学习》学习笔记原创 2017-10-14 18:00:20 · 1629 阅读 · 0 评论 -
机器学习——特征工程之核化线性降维KPCA
一、前言1、 线性降维的假设:从高维空间到低维空间的函数映射是线性的2、 然而,现实任务中大多数可能需要非线性映射才能找到恰当的低维嵌入3、 低维嵌入:低维(“本真”)空间样本点采样后以某种分布嵌入(映射)到高维空间中二、KPCA原理1、 非线性降维常用方法之一:基于核技巧对线性降维方法进行“核化”2、 PCA求解目标:原创 2017-10-12 19:03:16 · 4329 阅读 · 0 评论 -
机器学习——特征工程之线性判别分析LDA
一、前言1、 线性判别式分析(Linear Discriminant Analysis, LDA),也叫做Fisher线性判别(Fisher Linear Discriminant, FLD),是模式识别的经典线性学习算法,也是一种监督学习的降维技术。2、 基本思想:将高维的模式样本投影到最佳鉴别矢量空间,以达到抽取分类信息和压缩特征空间维数的效果,投影后保证模式样本在新的子空间有原创 2017-10-11 23:18:26 · 879 阅读 · 0 评论 -
机器学习——支持向量机SVM之核函数
1、在现实任务中,原始样本空间也许不存在一个能正确划分两类样本的超平面,虽然“软间隔”概念的引入在一定程度上缓解了该问题,但是当样本分布的非线性程度很高的时候,“软间隔”也无法解决这一问题2、对于这类问题,SVM的处理方法是选择一个核函数,其通过将数据映射到更高维的特征空间(非线性映射),使得样本在这个特征空间内线性可分,以解决原始空间中线性不可分的问题3、建立非线性学原创 2017-10-20 14:25:10 · 707 阅读 · 1 评论 -
机器学习——特征工程之独立成分分析ICA
一、简介1、独立成分分析(ICA)的起源独立成分分析(Independent Component Analysis),最早应用于盲源信号分离(Blind Source Separation,BBS)。起源于“鸡尾酒会问题”,描述如下:在嘈杂的鸡尾酒会上,许多人在同时交谈,可能还有背景音乐,但人耳却能准确而清晰的听到对方的话语。这种可以从混合声音中选择自己感兴趣的声音而忽略其他声音的原创 2017-10-10 22:49:10 · 2012 阅读 · 1 评论 -
机器学习——特征工程之主成分分析PCA
一、PCA简介1、 定义:主成分分析是一种统计方法,通过正交变换将一组可能存在相关性的变量转换为线性不相关,转换后的这组变量称为主成分。2、 主要应用场景:数据压缩;消除冗余;消除数据噪声;数据降维,可视化3、 理论基础:最大投影方差理论、最小投影距离理论和坐标轴相关度理论4、 直观理解:找出数据里最主要的成分,代替原始数据并使损失尽可能的小 a) 样原创 2017-10-10 22:14:53 · 1554 阅读 · 0 评论 -
机器学习——特征工程之数据预处理
特征工程学习笔记转载 2017-10-10 21:58:19 · 1117 阅读 · 0 评论 -
机器学习——特征工程之概述
一、特征工程是什么?1、特征:我们根据事物所具有的共性所抽象出来的能代表这一事物的概念2、数据和特征决定机器学习的上限,模型和算法只是逼近这个上限而已。特征工程的本质是一项工程活动,目的是最大限度地从原始数据中提取特征以供算法和模型使用。3、特征工程流程:原始数据->预处理->特征提取->特征选择与降维->建立模型二、特征工程有什么?原创 2017-10-10 21:49:14 · 428 阅读 · 0 评论 -
机器学习——支持向量机SVM之软间隔与正则化
《机器学习》学习笔记原创 2017-10-18 23:45:18 · 3707 阅读 · 0 评论 -
机器学习——支持向量机SVM之基本型
SVM几何理解与推导原创 2017-10-18 17:46:50 · 2293 阅读 · 0 评论 -
机器学习——线性模型之softmax回归
softmax回归学习笔记原创 2017-10-09 14:09:42 · 746 阅读 · 0 评论 -
机器学习——线性模型之逻辑回归
逻辑回归(Logistic Regression, LR)的几何理解原创 2017-10-08 21:34:50 · 408 阅读 · 0 评论 -
机器学习——线性模型之回归与分类
回归与分类的直观理解原创 2017-10-08 17:48:00 · 1245 阅读 · 0 评论 -
机器学习——特征工程之特征选择
《机器学习》学习笔记原创 2017-10-16 17:51:18 · 2960 阅读 · 0 评论