机器学习
文章平均质量分 94
记录机器学习的学习记录与心得
grizzly00
这个作者很懒,什么都没留下…
展开
-
机器学习西瓜书——第06章支持向量机
本文是关于周志华老师编写的机器学习书籍『西瓜书』的第六章支持向量机.主要的内容有: 支持向量机的模型理解、支持向量、硬间隔与软间隔、在不等式约束下使用拉格朗日乘子法转化为对偶问题、KKT条件、支持向量回归等.文章目录6.1 间隔与支持向量6.2 对偶问题KKT条件SMO算法6.3 核函数6.4 软间隔6.5 支持向量回归6.6 核方法个人收获6.1 间隔与支持向量面对二分类问题, 最基本的想法是基于训练集, 在样本空间中找到一个合适的划分超平面, 从而将样本划分为两类. 但是划分超平面有很多, .原创 2022-01-27 23:00:09 · 933 阅读 · 0 评论 -
机器学习西瓜书——第05章神经网络
本文是关于周志华老师编写的机器学习书籍『西瓜书』的第五章神经网络.主要的内容有: M-P神经元模型的构成、简单感知机和多层网络、以及著名BP算法的推导过程(激活函数是Sigmoid).文章目录5.1 神经元模型工作过程激活函数5.2 感知机与多层网络感知机多层网络5.3 误差逆传播算法5.3 参数学习过程梯度下降法求解过拟合策略不同的BP算法隐层神经元个数个人收获这里所说的神经网络是指: 由具有适应性的简单单元组成的广泛并行互联的网络, 能够模拟生物神经对现实世界做出的交互反映.5.1 神经元.原创 2022-01-23 20:30:55 · 707 阅读 · 0 评论 -
机器学习西瓜书——第04章决策树
本文是关于周志华老师编写的机器学习书籍『西瓜书』的第四章决策树的学习.主要的内容有: 决策树的基本流程、信息熵、信息增益(ID3决策树)、信息增益率(C4.5决策树)和基尼指数(CART决策树)等.4.1 基本流程(模型)决策树(decision tree)是基于树结构来进行决策的, 是符合人类习惯的一种决策机制.其中, 叶结点对应的是决策结果, 其他结点对应的是一个属性决策『决定按照什么属性, 将结点中的样本集合划分为子结点』, 从根结点到每个叶子结点的路径对应了一个决策序列.既然是一棵树.原创 2022-01-20 17:20:56 · 1061 阅读 · 0 评论 -
机器学习西瓜书——第03章线性模型
本文是关于周志华老师编写的机器学习书籍『西瓜书』的第三章线性模型.主要的内容有: 线性回归的基本形式、最小二乘法、广义线性回归、对数几率回归(逻辑回归)、最大似然估计和分类数据连续化等.3.1 基本形式线性模型(linear model)是一个通过属性的线性组合来进行预测的函数, 形如:f(x)=w1x1+x2w2+⋯+wdxd+bf(x) = w_{1}x_{1} + x_{2}w_{2} + \dots + w_{d}x_{d} + bf(x)=w1x1+x2w2+⋯+wdxd.原创 2022-01-16 00:41:21 · 563 阅读 · 0 评论 -
机器学习西瓜书——第02章模型评估和选择
本文是关于周志华老师编写的机器学习书籍『西瓜书』的第二章模型评估和选择。主要的内容有:经验误差与过拟合、模型的评估方法(留出法/交叉验证/自助法)、性能度量(查准率/查全率/F1/ROC曲线等), 部分内容待更新.2.1 经验误差与过拟合误差错误率: 分类错误的样本数 aaa 占样本总数 mmm 的比例称为"错误率"(error rate).errorrate=amerror rate = \frac{a}{m}errorrate=ma与之相对的是精度(accuracy):accur.原创 2022-01-12 00:26:52 · 275 阅读 · 0 评论 -
机器学习西瓜书——第01章绪论
本文是关于周志华老师编写的机器学习书籍『西瓜书』的第一章内容的简单体会。主要的内容有:机器学习的过程的一些基本术语和假设空间的解释. (归纳偏好回头再来)第一章 绪论1.1 引言通俗来说机器学习: 在学习了很多的『经验』情况下, 学会了某种『方法』, 遇到新的问题后, 根据之前的『经验』和『方法』做出有效的决策.所谓"经验"就是"数据";所谓"方法"就是机器学习研究的主要内容, 也就是从数据中学会的"模型"(model) 算法.基本术语数据部分数据集: 记录的集合称为一个"数.原创 2022-01-11 19:24:52 · 295 阅读 · 0 评论