李宏毅课程实训
Fly嘉
这个作者很懒,什么都没留下…
展开
-
李宏毅机器学习4(P8)
文章目录一. 从基础概率推导贝叶斯公式,朴素贝叶斯公式(1)1.1基本概率公式1.2贝叶斯公式1.3朴素贝叶斯公式二. 学习先验概率(2)三. 学习后验概率(3)四. 学习LR和linear regression之间的区别(4)五. 推导sigmoid function公式(5)参考文献一. 从基础概率推导贝叶斯公式,朴素贝叶斯公式(1)1.1基本概率公式我们先交待基本概率公式:设A,B是...原创 2019-05-25 21:23:46 · 306 阅读 · 0 评论 -
李宏毅机器学习8(Decesion Tree(决策树))
文章目录一.1.1总结决策树模型结构1.2理解决策树递归思想一.1.1总结决策树模型结构分类决策树模型一种描述对实例进行分类的树形结构。决策树由结点和有向边组成。结点有两种类型:内部结点和叶结点。内部结点表示一个特征或属性,叶结点表示一个类。1.2理解决策树递归思想决策树学习的算法通常是一个递归地选择最优特征,并根据该特征对训练数据进行分割,使得对各个子数据集有一个最好的分类的过程。这一...原创 2019-06-10 09:04:33 · 1424 阅读 · 0 评论 -
李宏毅机器学习10(CART)
文章目录回归树回归树生成回归树回归树和分类树都是决策树的一种,但是回归树用平方误差最小化准则进行特征选择,来生成二叉树,而分类树则是用基尼指数(Gini index)最小化准则回归树生成假设X与Y分别为输入和输出变量,并且Y是连续变量,在给定训练数据集D={(x1,y1),(x2,y2),⋯ ,(xN,yN)}D=\left\{\left(x_{1}, y_...原创 2019-06-19 23:44:48 · 314 阅读 · 0 评论 -
李宏毅机器学习6(个人自己创建数据,利用逻辑回归实现分类任务)
文章目录导入的包逻辑回归代码数据(自己造的)对数组进行分组实际操作代码感觉很不错,我后续看看怎么可以改善导入的包import numpy as npimport matplotlib.pyplot as plt逻辑回归代码class LogisticRegression(object): def __init__(self, learning_rate=0.1, max_it...原创 2019-06-02 21:53:30 · 352 阅读 · 0 评论 -
李宏毅机器学习7(Additional References(熵的理解))
文章目录一. 熵的概念1.1 信息熵1.2 交叉熵1.3 相对熵计算数据集的shangnonEnt参考文献一. 熵的概念1.1 信息熵信息量对于这个事情判断的能提供的信息度。而其实信息熵是信息量的期望(均值),它不是针对每条信息,而是针对整个不确定性结果集而言,信息熵越大,事件不确定性就越大。单条信息只能从某种程度上影响结果集概率的分布。使用一个公式来计算记录n天数据需要的存储空间:Sn...原创 2019-06-05 21:25:28 · 358 阅读 · 0 评论 -
李宏毅机器学习5(P9)
文章目录一.推导LR损失函数二.学习LR梯度下降三.利用代码描述梯度下降(选做)四.Softmax原理五.softmax损失函数六.softmax梯度下降一.推导LR损失函数逻辑回归的函数是fw,b(x)=σ(∑iwixi+b)f_{w, b}(x)=\sigma\left(\sum_{i} w_{i} x_{i}+b\right)fw,b(x)=σ(i∑wixi+b)outp...原创 2019-05-28 11:50:50 · 252 阅读 · 0 评论 -
李宏毅机器学习1
文章目录一. 机器学习:二. 学习中心极限定理,学习正态分布,学习最大似然估计2.1推导回归Loss function2.2损失函数与凸函数之间的关系2.3全局最优和局部最优三. 学习导数,泰勒展开3.1推导梯度下降公式3.1梯度下降代码四. 学习L2-Norm,L1-Norm,L0-Norm4.1推导正则化公式4.2说明为什么用L1-Norm代替L0-Norm4.1学习为什么只对w/Θ做限制,不...原创 2019-05-13 13:13:46 · 694 阅读 · 0 评论 -
李宏毅机器学习2(P4-P7)
文章目录理解偏差和方差学习误差为什么是偏差和方差而产生的(数学公式推导)过拟合,欠拟合,分别对应bias和variance什么情况理解偏差和方差学习误差为什么是偏差和方差而产生的(数学公式推导)过拟合,欠拟合,分别对应bias和variance什么情况过拟合对应的是bias很小,variance很大欠拟合对应的是bias很大,viraiance很小...原创 2019-05-17 21:19:01 · 204 阅读 · 0 评论 -
李宏毅机器学习3(HW1)
文章目录作业1:预测PM2.5的值hw1要求:hw_best 要求:数据介绍:具体代码作业1:预测PM2.5的值在这个作业中,我们将用梯度下降方法预测PM2.5的值hw1要求: 1、要求python3.5+ 2、只能用(1)numpy(2)scipy(3)pandas 3、请用梯度下降手写线性回归 4、最好的公共简单基线 5、对于想加载模型而并不想运行整个训练过程的人:请上传训练...原创 2019-05-22 20:54:35 · 867 阅读 · 0 评论 -
李宏毅机器学习9(matplotlib画决策树)
导入包和对应的结点import matplotlib.pyplot as pltdecisionNode=dict(boxstyle="sawtooth",fc="0.8")leafNode=dict(boxstyle="round4",fc="0.8")arrow_args=dict(arrowstyle="<-")计算树的叶子节点数量def getNumLeafs(myTr...原创 2019-06-15 21:21:04 · 369 阅读 · 0 评论