- 博客(10)
- 收藏
- 关注
RSS订阅原创 周志华西瓜书学习笔记（六）
周志华西瓜书学习笔记（六）支持向量机6.1间隔与支持向量1.线性可分如图所示，要将两类点分开，有很多直线都能做到。但是，如果希望训练出一条直线在测试集上也有很好的表现，应该找位于两类训练样本“正中间”的直线，也称划分超平面。这个划分超平面所产生的分类结果是最鲁棒的，为未见示例泛化能力越强。名词介绍鲁棒性：鲁棒是Robust的音译，也就是健壮和强壮的意思。它也是在异常和危险情况下系统生存的能力。比如说，计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下，能否不死机、不崩溃，就是该软件的鲁
2021-07-29 21:50:04
217
原创 周志华西瓜书学习笔记（五）
周志华西瓜书学习笔记（五）神经网络笔记介绍神经元模型诸如生物学中的定义，神经元是神经系统的基本单位，能过接受信息、整合信息、传导和输出信息。在输出的信息中，神经元传递出“兴奋”或者“抑制”的信息。同理在神经元模型中，神经元接收到来自n个其他神经元传递过来的输入信号，这些输入信号通过带权重的连接(connection)进行传递，神经元接收到的总输入值将与神经元的阈值进行比较,然后通过“激活函数”(activation function)处理以产生神经元的输出。这里的“激活函数”就是将神经元收到的总
2021-07-26 00:06:47
330
原创 周志华西瓜书学习笔记（四）
周志华西瓜书学习笔记（四）CNN卷积神经网络原理卷积网络（CNN）是一种专门用来处理具有类似网格结构的数据的神经网络，例如：时间序列数据和图像数据。机器识图的过程：识别图像并不是一下子将一个复杂的图片完整识别出来，而是将一个完整的图片分割成许多个小部分，把每个小部分里具有的特征提取出来（也就是识别每个小部分），再将这些小部分具有的特征汇总到一起，就可以完成机器识别图像的过程了 。卷积神经网络工作步骤一、卷积层初步提取特征卷积：s(t)=∫x(a)⋅w(t−a)das(t)=\int x(a
2021-07-23 22:48:46
512
原创 周志华西瓜书学习笔记（三）
周志华西瓜书学习笔记（三）决策树是一种基本的分类方法，根据数据的各种属性分类，如图就是一个决策树。先介绍决策树中的概念：根节点：就是树的最顶端，最开始的那个节点。在图中，“天气”就是一个根节点；内部节点：就是树中间的那些节点，比如说“温度”、“湿度”、“刮风”叶节点：就是树最底部的节点，也就是决策结果。节点之间存在父子关系。比如根节点会有子节点，子节点会有自己的子子节点，但是到了叶节点就停止了，叶节点不存在子节点。决策树通常有三个步骤：特征选择、决策树的生成、决策树的修剪。在特征选择中，
2021-07-22 22:24:25
161
原创 李宏毅《深度学习》笔记（五）
李宏毅《深度学习》笔记（五）网络设计的技巧 对于梯度下降法会遇到各种不顺利的情况，比如经过梯度下降之后的损失函数仍然比较大，又比如梯度为零无法下降等。对于这些错误的特殊值，统称为临界值（Critical Point）。临界值可以有局部最低点（Local Minima）和鞍点（Saddle Point）。具体例子可以见下图。其中遇到saddle point会比local minima更容易解决，因为saddle point还有方向继续优化，而local minima似乎已经无路可走。 所以第一
2021-07-21 23:42:06
576
1
原创 李宏毅《深度学习》（四）
李宏毅《深度学习》笔记（四）深度学习的步骤Step1：神经网络（Neural network）完全连接前馈神经网络：概念：前馈（feedforward）也可以称为前向，从信号流向来理解就是输入信号进入网络后，信号流动是单向的，即信号从前一层流向后一层，一直到输出层，其中任意两层之间的连接并没有反馈（feedback），亦即信号没有从后一层又返回到前一层。神经网络的优点：不论是做回归模型（linear model）还是逻辑回归（logistics regression）都是定义了一个函数集（fu
2021-07-18 23:51:30
170
2
原创 李宏毅《深度学习》笔记（三）
李宏毅《深度学习》笔记（三）一、误差的来源误差(Error)通常有两个来源：偏差（Bias）和方差（Variance）。且Error = Bias + Variance但偏差和方差是一对矛盾体，同样条件下，要降低偏差往往要以增加方差为代价，反之也是同理。要同时降低偏差和方差，就要增大训练集的样本量。理解偏差和方差：Error反映的是整个模型的准确度，Bias反映的是模型在样本上的输出与真实值之间的误差，即模型本身的精准度，Variance反映的是模型每一次输出结果与模型输出期望之间的误差，即模型
2021-07-16 15:22:02
237
原创 李宏毅《深度学习》笔记（二）
李宏毅《深度学习》笔记（二）这篇是关于李宏毅老师《深度学习》视频P3-P4的笔记。李宏毅老师结合宝可梦的例子讲回归，深入浅出，很适合入门学习。一、 回归介绍回归（Regression ）是监督学习关于连续值最常见的方法，就是找到一个函数 functionfunction ，通过输入特征 xx，输出一个数值 Scalar。例如，股市预测（Stock market forecast）；Pokemon精灵攻击力预测（Combat Power of a pokemon）。结合笔记（一）介绍的建立模型
2021-07-14 23:13:06
722
1
原创 周志华西瓜书学习笔记（一）
周志华西瓜书笔记（一）以下是西瓜书第1章和第2章的笔记。不过第1章和第2章大部分是一些术语和概念，有一些知识点没有看过后续内容会比较难理解，就暂时跳过。主要是：第1章：【1.4-归纳偏好】可以跳过；第2章：【2.3.3-ROC与AUC】及其以后的都可以跳过第一章 绪论机器学习的主要内容 机器学习所研究的主要内容是关于在计算机上从数据中产生“模型”的算法，即“学习算法”（Learning algorithm）基本术语假定我们收集了一批关于西瓜的数据，如表色泽根蒂敲声是否好瓜
2021-07-13 22:47:00
603
原创 李宏毅《深度学习》笔记（一）
李宏毅《深度学习》笔记（一）一、机器学习介绍1.人工智能、机器学习、深度学习的概念区分人工智能（Artificial Intelligence）：这是一个很广泛的概念，这个词在1950年就有了。这个词意味着一个人类长远以来的目标，希望机器可以跟人一样的聪明，因此人工智能是我们想要达成的目标。机器学习（Machine Leaning）：而对于如何实现人工智能？人们希望让机器能够像人一样去学习。因此机器学习是想要达成目标的手段，希望机器通过学习方式，让机器跟人一样聪明。深度学习（Deep Lear
2021-07-12 19:58:51
690
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人