![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 73
maggieyiyi
这个作者很懒,什么都没留下…
展开
-
什么是编码器、解码器?(CNN\RNN....)
以卷积神经网络为例,输入为一个猫,进行特征提取后输出图片类别。因此,这里可以简单的理解为:特征提取过程即为编码器,而分类过程即为解码器。使用编码器-解码器架构模型,编码器负责表示输入,解码器负责输出。以循环神经网络为例,输入为一个文本,进行特征提取后输出。原创 2022-09-17 13:13:43 · 14244 阅读 · 2 评论 -
(WHAT)模型选择+过拟合+欠拟合(深度学习)
除非另有明确说明,否则在这本书的实验中,我们实际上是在使用应该被正确地称为训练数据和验证数据的数据集,并没有真正的测试数据集。如果我们在模型选择过程中使用测试数据,可能会有过拟合测试数据的风险,那就麻烦大了。虽然理想情况下我们只会使用测试数据一次,以评估最好的模型或比较一些模型效果,但现实是测试数据很少在使用一次后被丢弃。特别是在深度学习领域,众所周知,最好的预测模型在训练数据上的表现往往比在保留(验证)数据上好得多。然而,我们也不能仅仅依靠训练数据来选择模型,因为我们无法估计训练数据的泛化误差。.....原创 2022-07-19 15:21:34 · 395 阅读 · 0 评论 -
线性回归原理(李沐老师学习笔记)
回归(regression)是能为一个或多个自变量与因变量之间关系建模的一类方法。在自然科学和社会科学领域,回归经常用来表示输入和输出之间的关系。例如最常见的线性回归y=kx+b;通常,我们使用n来表示数据集中的样本数。对索引为i的样本,其输入表示为x(i)=[x1(i),x2(i)]⊤,其对应的标签是y(i)。............原创 2022-07-15 11:05:38 · 1168 阅读 · 0 评论 -
感知机python代码实现
目录1、数据集准备1.1 导入包1.2 加载数据1.3 原始数据可视化 1.4划分数据集和标签 本文使用sklearn的鸢尾花数据。 sklearn.datasets.load_iris(*, return_X_y=False, as_frame=False) Iris数据集是常用的分类实验数据集,由Fisher, 1936收集整理。Iris也称鸢尾花卉数据集,是一类多重变量分析的数据集。数据集包含150个数据样本,分为3类,每类50个数据,每个数据包含4个属性(分别原创 2022-07-01 11:18:53 · 5339 阅读 · 7 评论 -
机器学习之感知机原理
目录一些概念什么二分类?什么是特征空间(特征向量)什么是线性可分?什么是感知机感知机预测 思考:为什么w.x+b=0? 感知机学习策略:1、什么是损失函数?2. 为什么使用损失函数? 感知机学习算法的原始形式例题:感知机的对偶形式: 算法形式 例题在学习感知机之前首先要明确几个概念,什么是二分类?什么是特征空间?二分分类即分类结果标签只有两个。EG:输入歌曲特征,输出喜欢/不喜欢EG:输入学习时间,输出及格或者不及格线性变换的特征向量(本征向量)是一个非简并的向量,其方向在该变换下不变。该向量在此变原创 2022-07-01 08:52:59 · 415 阅读 · 0 评论 -
机器学习——神经网络(python)手写数字识别
一、定义一直以来,人们都认为神经网络是模仿生物体的神经网络设计而成的。er神经网络既可以用于回归,也可以用于分类,但在实际应用中常用于分类。基于神经网络的深度学习因在图像识别和语音识别等领域表现优异而广为容人之。神经元是神经网络算法的基本单元,它本质上是一种函数,接受外部刺激并根据输入产生对应的输出。它的内部可以看作线性函数和激活函数的组合,线性函数运算结果传递给激活函数,最终产生该神经元的输出结果。二、代码from sklearn.datasets import load_digit原创 2022-04-02 15:09:26 · 2423 阅读 · 1 评论 -
Sigmoid、rula、tanh激活函数(python实现)
目录一、定义1.1 激活函数定义1.2Sigmoid函数1.3 Tanh / 双曲正切激活函数1.4ReLU 激活函数二、代码三、结果一、定义1.1 激活函数定义激活函数(Activation Function)是一种添加到人工神经网络中的函数,旨在帮助网络学习数据中的复杂模式。类似于人类大脑中基于神经元的模型,激活函数最终决定了要发射给下一个神经元的内容。在人工神经网络中,一个节点的激活函数定义了该节点在给定的输入或输入集合下的输出。标准的计算机芯片电...原创 2022-04-02 14:29:28 · 4212 阅读 · 1 评论 -
机器学习——提升树
以上皆参考李航老师的《统计学习方法》,如博客有不足之处,还请指教!!!一、什么是提升树提升树(BT,Boosting Tree)是以分类树和回归树为基本分类器的提升方法。提升树被认为是统计学习中性能最好的方法之一。以决策树为基函数的提升方法称为提升树。二、提升树模型提升方法采用加法模型(即基函数的线性组合)与前向分步方法。对分类问题决策树是二叉分类树,对回归问题决策树是二叉回归树。提升树模型可以表示为决策树的加法模型:三、提升树算法那么具体怎么计算呢?首先,提升树原创 2022-03-31 20:23:09 · 4406 阅读 · 0 评论 -
机器学习——逻辑回归原理(python实现)
yong逻辑回归是一种用于有监督学习的分类任务的简单算法,虽然算法的名字为回归,但是逻辑回归常常用于分类。一、什么是逻辑回归1.1逻辑回归定义逻辑回归是一种学习某个事件发生概率的算法。利用这个概率,可以对事件进行二元分类。(也可以三种类别以上分类)。因为是概率,所以输出值范围是0-1。1.2 小栗子~(例子)比如suo,下雪天我们要不要穿棉鞋出门捏~( ̄▽ ̄)~*?如果有积雪,我们就穿棉鞋出门,如果雪化了,我们就传平时滴鞋子~!!!我们用代码模拟一下数据:X轴代表温度,Y轴代原创 2022-03-29 16:04:12 · 4761 阅读 · 0 评论 -
机器学习——决策树
一、决策树定义:分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点(node)和有向边(directed edge)组成。结点有两种类型:内部结点(internal node)和叶结点(leaf node)。内部结点表示一个特征或属性,叶结点表示一个类。⚪:内部结点正方形:叶结点二、决策树特征选择2.1 特征选择问题特征选择在于选取对训练数据具有分类能力的特征。这样可以提高决策树学习的效率。如果用一个特征去分类,得到的结果与随机的分类没有很大差别,那么这次分类是无原创 2022-03-28 16:37:47 · 11806 阅读 · 0 评论 -
Python 实现朴素贝叶斯代码演示
朴素贝叶斯可以细分为三种方法:分别是伯努利朴素贝叶斯、高斯朴素贝叶斯和多项式朴素贝叶斯。下文就这三种方法进行详细讲解和演示。目录一、伯努利朴素贝叶斯方法1.1 例子解答1.1.1 代码:1.1.2 结果:二、高斯朴素贝叶斯方法2.1 解题2.1.1 代码:2.1.2 结果:2.2 检查高斯朴素贝叶斯的正确率2.2.1 代码:2.2.2 结果:三、多项式朴素贝叶斯方法3.1 多项式朴素贝叶斯实现新闻文本分类3.1.1 代码3.1.2 结果...原创 2022-03-25 18:28:37 · 14379 阅读 · 1 评论 -
机器学习——朴素贝叶斯
一、什么朴素贝叶斯(基于概率进行预测的算法,用于分类)朴素贝叶斯是基于贝叶斯定理与条件独立假设的分类方法。对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布;然后基于此模型,对给定的输入x,利用贝叶斯定理求出后验概率最大的输出y。具体来说:计算数据为某个标签的概率,并将其分类为概率值最大的标签。二、计算方法要求:输入是独立的。2.1 基本方法训练数据集:由P(X,Y)独立同分布产生。朴素贝叶斯法通过训练数据集学习联合分布P(X,Y).具体地,学原创 2022-03-24 20:39:01 · 1321 阅读 · 0 评论