机器学习
bineleanor
这个作者很懒,什么都没留下…
展开
-
第一章 统计学习方法概论--最小二乘法
参考资料:1.李航《统计学习方法》2.github: https://github.com/fengdu78/lihang-code1.统计学习的主要特点是:(1)以数据为研究对象,是数据驱动的学科;(2)学习目的是:对数据进行预测和分析统计学习包括:监督学习、非监督学习、半监督学习及强化学习2.监督学习的任务是学习一个模型,使得模型能够对任意给定的输入,对其相应的输出作出一个好的预测...原创 2018-12-22 17:07:36 · 935 阅读 · 0 评论 -
第二章 感知机
参考资料:1.李航《统计学习方法》;2. github: https://github.com/fengdu78/lihang-code感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取值为+1,-1感知机对应于输入空间中将实例划分成正负两类的分离超平面,属于判别模型感知机学习旨在求出将训练数据进行线性划分的分离超平面为此,导入基于误分类...原创 2018-12-22 17:26:45 · 213 阅读 · 0 评论 -
第三章 k近邻法
参考资料:1.李航《统计学习方法》2.github: https://github.com/fengdu78/lihang-codekkk近邻方法(k-nearest neighbor,KNN)是一种基本的分类与回归的方法.kkk近邻法的输入为实例的特征向量,对应于特征空间的点;输出为实例的类别,可取多类.kkk近邻法假设给定一个训练数据集,其中的实例类别已定,分类时,对于新的实例,根据其...原创 2018-12-28 20:51:42 · 204 阅读 · 0 评论 -
K近邻算法
import pandas as pdimport numpy as npfrom sklearn.datasets import load_irisimport matplotlib.pyplot as pltfrom sklearn.model_selection import train_test_splitfrom collections import Counteriri...原创 2018-12-28 21:34:55 · 161 阅读 · 0 评论 -
第四章 朴素贝叶斯法
参考资料: 李航《统计学习方法》朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布p(x,y)p(x,y)p(x,y);然后基于此模型,对给定的输入xxx,利用贝叶斯定理求出后验概率p(y∣x)p(y|x)p(y∣x)最大的输出yyy利用训练数据学习p(x∣y)p(x|y)p(x∣y)和p(y)p(y)p(y)...原创 2019-01-04 20:50:17 · 169 阅读 · 0 评论 -
第五章 决策树
参考文献 李航 《统计学习方法》决策树是一种基本的分类与回归方法,在此主要讨论基于分类的决策树,其模型呈现树形结构,表示基于特征对实例进行分类的过程。主要优点:可读性,分类速度快决策树学习的三个步骤:特征选择,决策树的生成和决策树的修剪常用算法:ID3、C4.5和CART决策树模型决策树由结点和有向边组成,结点包括:叶结点和内部结点,内部结点表示一个特征或属性,叶结点表示类决策树可被...原创 2019-01-13 22:37:25 · 928 阅读 · 0 评论 -
第五章 决策树--部分定义代码实现
参考资料:1.github: https://github.com/fengdu78/lihang-code2.李航 《统计学习方法》基于sklearn 实现决策树import numpy as npimport pandas as pdfrom sklearn.datasets import load_irisfrom sklearn.model_selection import ...原创 2019-01-16 23:04:24 · 418 阅读 · 0 评论 -
第六章 Logistic回归与最大熵模型
参考资料1.李航《统计学习方法》 2.github: https://github.com/fengdu78/lihang-codeLogistic模型与最大熵模型都属于对数线性模型 是否是线性模型取决于训练的参数是否为线性Logistic回归模型Logistic分布设XXX是连续的随机变量,XXX服从Logistic分布是指XXX具有下列分布函数和密度函数:F(x)=P(X≤x)=...原创 2019-01-22 20:54:55 · 437 阅读 · 0 评论 -
隐马尔可夫模型(Hidden Markov Model)
隐马尔可夫模型(HMM)简述一下HMM:(参考资料:《统计学习方法》-李航)隐马尔可夫模型(Hidden Markov Model,HMM)描述由隐藏的马尔可夫链随机生成观测序列的过程,属于生成模型。HMM是关于时序的概率模型,描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列(状态序列),再由各个状态生成一个观测而产生的观测随机序列(观测序列)的过程。一堆拗口的术语?下边慢慢道来…...原创 2019-08-17 19:22:43 · 25137 阅读 · 2 评论