李航统计学习方法
JohnBanana
666
展开
-
李航统计学习方法-朴素贝叶斯
朴素贝叶斯法 朴素贝叶斯(naïve Bayes)法是基于贝叶斯定理与特征条件独立假设的分类方法[1]。 对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布;然 后基于此模型,对给定的输入x,利用贝叶斯定理求出后验概率最大的输出y。朴素贝叶斯 法实现简单,学习与预测的效率都很高,是一种常用的方...原创 2019-04-16 11:31:23 · 2033 阅读 · 0 评论 -
李航统计学习方法-决策树
决策树 决策树(decision tree)是一种基本的分类与回归方法。本章主要讨论用于分类的决 策树。决策树模型呈树形结构,在分类问题中,表示基于特征对实例进行分类的过程。它 可以认为是if-then规则的集合,也可以认为是定义在特征空间与类空间上的条件概率分 布。其主要优点是模型具有可读性,分类...原创 2019-04-22 16:35:10 · 1748 阅读 · 0 评论 -
李航统计学习方法-感知机理论
感知机模型 感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出 为实例的类别,取+1和–1二值。感知机对应于输入空间(特征空间)中将实例划分为正 负两类的分离超平面,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分 离超平面,为此,导入基于误分类...原创 2019-04-15 13:56:30 · 1627 阅读 · 1 评论 -
李航统计学习方法-感知机python实现
1、理论中原始算法的实现# 利用Python实现感知机算法的原始形式# -*- encoding:utf-8 -*-import numpy as npimport matplotlib.pyplot as pltdef createData(): samples = np.array([[3, -3], [4, -3], [1, 1], [1, 2]]) l...原创 2019-04-15 14:08:44 · 587 阅读 · 0 评论 -
李航统计学习方法-k近邻法
k近邻法 k近邻法(k-nearest neighbor,k-NN)是一种基本分类与回归方法。本书只讨论分类 问题中的k近邻法。k近邻法的输入为实例的特征向量,对应于特征空间的点;输出为实例 的类别,可以取多类。k近邻法假设给定一个训练数据集,其中的实例类别已定。分类 时,对新的实例,根据其k个最近邻的训练...原创 2019-04-15 15:09:28 · 904 阅读 · 0 评论 -
李航统计学习方法-k近邻法python实现
1、 基于欧氏距离import numpy as npdef createDataSet(): group = np.array([[1.5, 1.4], [1.6, 1.5], [0.1, 0.2], [0.0, 0.1]]) labels = ['A', 'A', 'B', 'B'] return group, labelsdef KNNClas...原创 2019-04-15 15:28:00 · 380 阅读 · 0 评论 -
李航统计学习方法-朴素贝叶斯python实现
机器学习实战中实现部分:from numpy import *def loadDataSet(): """ postingList: 进行词条切分后的文档集合 classVec:类别标签 """ postingList = [['my', 'dog', 'has', 'flea', 'problems', 'help', 'please'...原创 2019-04-18 17:00:16 · 352 阅读 · 0 评论 -
李航统计学习方法第二版决策树python实现
整理:基于ID3的实现:# coding=utf-8from math import logimport timedef createDataSet(): """ 创建测试数据集 :return: """ dataSet = [[1, 1, 'yes'], [1, 1, 'yes'], ...原创 2019-04-24 15:24:39 · 555 阅读 · 0 评论