初级算法梳理
Fly嘉
这个作者很懒,什么都没留下…
展开
-
逻辑回归算法梳理
一. 逻辑回归原理之前是讨论了如何使用线性模型进行回归学习,但若要做的是分类任务改怎么办?比如二分类问题,将X对应的y分为类别和类别。因为之前提及的线性回归的输出是连续的,现在我们需要将连续的值分为离散的0和1,那我们需要什么处理?这样很容易想到找到一个函数,模型输出值转换到0,1之间。可能大家首先想到单位阶跃函数(unit-step Function),函数图像如下:函数原型如下:y=...原创 2019-03-29 14:14:12 · 439 阅读 · 0 评论 -
决策树算法梳理
一. 信息论基础(熵 联合熵 条件熵 信息增益 基尼不纯度)信息熵信息量度量的是一个具体事件发生了所带来的信息,而熵则是在结果出来之前对可能产生的信息量的期望——考虑该随机变量的所有可能取值,即所有可能发生事件所带来的信息量的期望。即H(x)=−sum(p(x)log2p(x))H(x)=-sum(p(x)log_2p(x))H(x)=−sum(p(x)log2p(x))转换为:H(x)...原创 2019-04-03 21:48:21 · 206 阅读 · 0 评论 -
线性回归算法梳理
我想从一个链进行讲述:机器学习:因为我们是把我们人类的“经验”以数据的形式来存储,所以我们想着能不能让机器从这些数据进行学习,归纳中我们人类中的经验来进行推理。简称机器学习。工程化定义:假设用P来评估计算机程序在某任务类T上的性能,若一个程序通过利用经验E在T中任务上获得了性能改善,则我们就说关于T和P,该程序对E进行了学习。人话就是:我们想让机器从我们这些人类的经验进行学习来帮我们解决一...原创 2019-03-29 09:46:54 · 745 阅读 · 0 评论