![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
cswangle
研究方向:压缩感知,矩阵填充;
入学年份:2014
展开
-
决策树
决策树-decision tree决策树-decision tree 基本流程 划分选择 信息增益 增益率 基尼指数 剪枝处理 预剪枝 后剪枝 连续与缺失值 连续值处理 缺失值处理 过度拟合问题 多变量决策树 常见决策树 ID3 CART C45 优缺点 决策树:是一种实现分治策略的层次数据结构,它是一种有效的非参数学习方法,可以用于分类和回归。分类树对离散变量做决策树,回归树对连续变量做决策树。原创 2016-07-19 14:55:36 · 1401 阅读 · 0 评论 -
回归- Regression
回归- Regression——————————————————————————————————————————回归- Regression 线性回归Linear regression 模型表示Model representation 代价函数Cost function 目标Goal 多项式回归 加权线性回归 一般线性回归 通用的指数概率分布 伯努利分布 高斯分布 微分与导数1 微分 导数 方向导数原创 2016-07-18 21:36:06 · 2433 阅读 · 0 评论 -
Matrix Calculus
Matrix CalculusMatrix Calculus Derivative of the vector with respect to vector Derivative of a Scalar with Respect to Vector Derivative of Vector with Respect to Scalar EXAMPLE Chain rule for Vectors D原创 2016-07-18 21:49:13 · 612 阅读 · 0 评论 -
支持向量机
支持向量机支持向量机 点到平面的距离 平面的一般式方程 向量的模 向量的内积 点到平面的距离 最优间隔分类器与支持向量 函数间隔和几何间隔 如何确定这个超平面 最大间隔划分超平面 对偶问题 对偶问题转化 对偶问题求解 拉格朗日乘子法和KKT条件 拉格朗日乘子法等式约束问题 等式约束问题的合理性 拉格朗日乘子法不等式约束问题 KKT条件 不等式约束问题的合理性 核函数 特征空间的隐式映射 核函数有效性原创 2016-07-18 23:04:15 · 7466 阅读 · 3 评论 -
集成学习
集成学习集成学习 什么是集成学习 弱学习和强学习 集成学习有效的前提 集成学习分类 AdaBoost Adaboost的算法流程 弱分类器的误差和AdaBoost框架的误差 多属性数据集的处理 Bagging Bagging的策略 模型的偏差和方差 方差和偏差的来源 随机森林 算法 随机选取训练样本集 随机选取分裂属性集特征投影 特征扩展 特征选择 随机森林的优点与缺点 Stacking 什么是原创 2016-07-19 14:57:00 · 5115 阅读 · 0 评论