Logistic Regression-逻辑回归

logistic回归分类的主要思想:根据现有的数据对分类边界线建立回归公式,以此分类,这里“回归”源于最佳拟合,表示要找到最佳拟合参数集。训练分类器时就是寻找最佳拟合参数。   Sigmoid函数:   Sigmoid函数的输入记为z,且,向量W就是我们要寻找的参数,向量X是分类器的输入数据。   为了实现logistic回归分类器,我们可以在每个特征上乘以一个回归系数W,再把所有的相乘...
阅读(676) 评论(2)

最大似然估计

首先看两个例子:   例1:天上有乌云,问那么下雨的概率是多少?这是一个条件概率,也称为后验概率;如果现在正在下雨,那么天上有乌云的概率是多少?这就是似然,由结果去找原因。   例2:有两个人去打一只正在吃草的鹿,一个是猎手,另一个是菜鸟,砰一声,鹿死了,那么谁最有可能打死这只鹿?这就是最大似然估计(MLE),找出导致这个结果的最有可能的原因。   最大似然估计(Maximun Likeli...
阅读(508) 评论(0)

ID3decision tree-ID3决策树实现

创建简单的数据集: 根据下图创建数据集:   图表的意思是:表中5个海洋动物,特征包括两个:1、不浮出水面是否可以生存,2、是否有脚蹼。我们可以将这些动物分成两类: 鱼类和非鱼类。 #create data set and lebels def CreateDataset(): dataset = [[1, 1, 'yes'], [1, 1,...
阅读(689) 评论(0)
    个人资料
    • 访问:280286次
    • 积分:7304
    • 等级:
    • 排名:第3352名
    • 原创:471篇
    • 转载:19篇
    • 译文:0篇
    • 评论:18条