2018年01月_土肥宅娘口三三

07月 06月 05月 01月

原创 lambda函数的用法简记

lambda函数lambda是一个匿名函数，其语法为：lambda parameters:express一般用法import numpy as npsigmoid = lambda x:1./(1.+np.exp(-x))sigmoid(np.array([-10, 0, 10]))array([ 4.53978687e-05, 5.00000000e-01, 9.9

2018-01-27 11:04:02 1626

原创关于plt.cm.Spectral

cmap = plt.cm.Spectral用法理解%matplotlib inlineimport numpy as npimport matplotlib.pyplot as pltnp.random.seed(1) # 产生相同的随机数X = np.random.randn(1, 10)Y = np.random.randn(1, 10)label = np.arra

2018-01-27 10:46:21 20577 5

原创决策树ID3算法及实现

0. 信息论信道模型和信息的含义信息论是关于信息的本质和传输规律的理论。信道模型：信源（发送端）-> 信道 -> 信宿（接收端） 1. 通信过程是在随机干扰的环境汇中传递信息的过程 2. 信宿对于信源的先验不确定性：在通信前，信宿不能确切的了解信源的状态； 3. 信宿对于信源的后验不确定性：在通信后，由于存在干扰，信宿对于接收到的信息仍然具有不确定性 4. 后验不确定性总是

2018-01-12 21:32:27 13461

原创机器学习笔记-Validation

可以使用regularization来避免overfitting的发生。监督机器学习问题可以概括为：在规则化参数的同时最小化误差。最小化误差是为了让我们的模型拟合我们的训练数据，而规则化参数是防止我们的模型过分拟合我们的训练数据。Regularization的具体做法是我们不只是专注在最小化EinE_{in}上，而是在EinE_{in}上加上一个regularizer，将得到的augmented

2018-01-03 19:49:40 7389

原创机器学习笔记-Regularization

Regularized Hypothesis Set上一篇中说到，在机器学习中最大的危险是过拟合。当使用的模型的复杂度过高，资料量不多，资料存在噪声或者是目标函数很复杂的时候都有可能会出现过拟合的情况。Regularization可以看成是对付overfitting的一个方法。右图是一个典型的overfitting的情形，资料量大小为5，当我们使用一个4次甚至是更高次的多项式去

2018-01-03 19:46:23 6721

原创机器学习笔记-Hazard of Overfitting

什么是过拟合将线性模型加上非线性的转换就可以很方便的产生非线性的模型来完成我们的学习任务。但是这样做的缺点是要付出额外的模型复杂度代价。正是这个额外的模型复杂度会造成机器学习中一个很容易出现和很难解决的问题就是过拟合的问题，本小节先分析过拟合产生的原因，然后给出解决的方法。例子以上是一个一维的回归分析的例子。一共有5个资料点，x随机产生，y是将x带入一个二次多项式然后再加

2018-01-03 19:41:28 1308

原创机器学习笔记-Nonlinear Transformation

本系列共四篇，为林轩田机器学习基础篇学习笔记。线性模型通过非线性的变换可以得到非线性的模型，增强了模型对数据的认识能力，但这样导致了在机器学习领域中一个很常见的问题，过拟合。为了解决这个问题引入了规则化因子。为了解决规则化因子的选择，模型的选择，参数的选择等问题引入了validationvalidation的相关方法。机器学习笔记-Nonlinear TransformationNonlinear

2018-01-03 19:37:57 7128