- 博客(11)
- 资源 (3)
- 收藏
- 关注
RSS订阅原创 高斯密度的贝叶斯分类
这里说的也就是对连续值得贝叶斯分类 对于离散的情况可产考： 贝叶斯理论基础 贝叶斯邮件分类这里也是假设各个特征之间是互相独立的f(x,μ,σ)=12π√∗σexp−(x−μ)22∗σ2\color{Red}{f(x,\mu,\sigma) = \frac{1}{\sqrt{2 \pi}*\sigma }exp{- \frac{(x-\mu)^2}{2*\sigma^2}}}说明：xx是你要输入
2015-08-29 10:12:20
1055
原创 Python实现KNN算法
导入的包import csv import random import math import operator读取数据：def loadDataSet(filename,split,trainingSet=[] , testSet = []): with open(filename,'rb') as csvfile: lines = csv.reader(csvfil
2015-08-28 20:22:38
869
原创 支持向量机之线性支持向量机（三）
线性支持向量机与软间隔最大化线性支持向量机学习的对偶算法求解 wbwb线性支持向量机学习算法支持向量机合页损失函数线性支持向量机与软间隔最大化线性支持向量机对特征空间上的训练数据集T={(x1,y1),(x2,y2),...,(xN,yN)}T=\left\{ (x_1,y_1),(x_2,y_2),...,(x_N,y_N)\right\},其中xi∈χ=Rn,yi={+1,−1}x_
2015-08-25 20:23:14
1346
1
原创 支持向量机之对偶学习算法（二）
接上节这里讲的是支持向量机的拉格朗日对偶学习算法\color{Red}{对偶学习算法}对偶学习算法拉格朗日对偶性问题原问题对偶问题原始问题与对偶问题的关系KKT条件对偶学习算法接上求解wbcolorRedwb线性可分支持向量机学习算法支持向量对偶学习算法上节的问题是： minw,b12||w||2\color{Red}{\underset {w,b}{min} \frac{
2015-08-22 10:16:48
2373
原创 支持向量机之线性可分支持向量机（一）
简介支持向量机（support vector machines，SVM）是一种二分类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使得它有别于感知机；支持向量机还包括核技巧，这使得它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规划（convex quadratic programming）的问题，也等价于正则化的合页损失函数的最小化
2015-08-18 20:20:06
9558
1
原创 EM算法
简介ＥＭ算法是一种迭代算法，用于含有隐含变量（hidden variable）的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的每次迭代由两部组成：E步，求期望（expectation）；M步，求极大值（maximization）。所以又称为期望极大算法（expectation maximization），简称ＥＭ算法概率模型有时候同时含有观测变量和隐含变量，如果只含有观测变量，对于给定的
2015-08-07 21:04:38
955
原创 LDA线性判别分析Python程序
理论讲解需要导入的包# -*- coding: utf-8 -*-import numpy as np import csvfrom matplotlib import pyplot as pltimport math导入数据集def read_iris(): from sklearn.datasets import load_iris from sklearn import
2015-08-04 21:48:10
8047
1
原创 Kmeans聚类Python程序
之前写过两个关于kmeans的博客 kmeans理论介绍 kmeans与dbscan的对比再说下算法的过程： 1.随机的选取k个聚类中心，这个k是有自己设置的 2.计算数据集到k个聚类中心的距离 3.对一条数据，分配到距k个聚类中心最近的类中 4.得到新的k个数据，计算聚类中心 5.更新2,3,4当类别不再变化时结束迭代Python程序 计算欧式距离 # 计算欧式距离def
2015-08-02 17:38:49
1602
原创 线性判别分析（Linear Discriminant Analysis）
概念线性判别分析（Linear Discriminant Analysis）是一种根据分类特征有监督方法的降维算法。LDA是将高维数据投影到低维数据，同时保证不同类尽量的分得开，即：类内距离尽量的近，类间距离尽量的远。二分类数据做LDA对于DD维的样本x={x(1),x(2),...,x(N)}x=\left\{ x^{(1)},x^{(2)},...,x^{(N)}\right\} 设ww是投影
2015-08-01 21:48:57
1476
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人