Machine Learning
文章平均质量分 54
GarryLau
这个作者很懒,什么都没留下…
展开
-
PCA的C++与sklearn实现
PCA的简要步骤:数据中心化;求中心化后数据的协方差矩阵;求协方差矩阵的特征值、特征向量;对特征值进行从大到小排序,同步排序特征向量;从前往后选取一定百分比的排序后的特征向量组成映射矩阵;将原始数据乘以映射矩阵得到维度降低后的数据。C++实现PCAauxiliary.hpp#pragma once#include <iostream>#include <fstream>#include <string>#include <vector原创 2022-02-04 00:31:00 · 2077 阅读 · 0 评论 -
loss function
机器学习中的损失函数 (着重比较:hinge loss vs softmax loss)原创 2020-03-02 11:47:35 · 122 阅读 · 0 评论 -
线性模型(Linear Model)
线性模型(Linear Model)定义、实现方式。scikit learn实现线性回归、逻辑回归。广义线性模型(Generalized Linear Model)的基本概念及表现形式。原创 2017-12-19 00:19:07 · 3863 阅读 · 1 评论 -
决策树(Decision Tree)
决策树(Decision Tree)基本概念决策树是以树状图为基础的、基于特征的、有监督的、贪心的、学习算法。决策树可以是二叉树也可以是非二叉树,其输出结果是一些进行判别的规则。决策树由节点和有向边组成,内部的节点表示一个特征(属性),叶子节点表示一个分类。决策树可以用于分类问题也可以用于回归问题。对于分类问题,利用决策树进行预测时,将样本实例输入决策树,经过决策树内部的判别规则,最原创 2017-12-30 10:09:00 · 778 阅读 · 0 评论 -
Adaboost
AdaboostBoosting(提升方法)是一族可以将弱分类器提升为强分类器的方法。这族算法的工作原理是:先从初始训练集训练出一个基分类器,再根据基分类器的表现对训练样本权值进行调整,使得被基分类器分错的样本得到更多的关注,然后根据调整权值后的样本来训练下一个基分类器,如此重复,直至基分类器的数目达到预先设定的阈值TTT,最终将这TTT个基分类器进行加权组合。 Boosting方法的理论基...原创 2018-02-26 22:23:35 · 335 阅读 · 0 评论 -
朴素贝叶斯分类器
朴素贝叶斯分类器(Naive Bayes Classifier)基本概念贝叶斯分类器是一族分类算法的总称,该族算法均以贝叶斯定理为基础,统称为贝叶斯分类器。贝叶斯分类器的分类原理是通过先验概率利用贝叶斯公式计算出其后验概率,选择具有最大后验概率的类作为该对象所属的类别。 设SSS为实验EEE的样本空间,B1,B2,…,BnB1,B2,…,BnB_1,B_2,\dots,B_n为EEE...原创 2018-03-05 16:34:12 · 730 阅读 · 0 评论 -
SVM
SVM1. 基本概念支持向量机(Support Vector Machine, SVM)的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法,在引入了核方法之后SVM也可以用来解决非线性问题。 一般SVM有下面三种:硬间隔支持向量机(线性可分支持向量机):当训练数据线性可分时,可通过硬间隔最大化学得一个线性可分支...原创 2018-03-05 22:51:51 · 96784 阅读 · 5 评论