- 博客(6)
- 收藏
- 关注
RSS订阅原创 流形正则化
流形正则化最近看到一篇新论文《基于点态流形正则化的半监督学习》，关于这的讲解不多，先学一下流形正则化。以下是关于论文的摘要：流形正则化(MR)为同时使用标记和未标记数据的半监督分类提供了一个强大的学习框架。依据流形假设，MR约束在流形结构图上的相似实例共享相似的分类输出。因此，MR基于流形图上的成对光滑性。光滑性的约束对象为所有实例对，从而将各实例对视为单个操作对象。然而，平滑性在本质上可以是点态的，即平滑性发生在“任何地方”，将各实例的行为与其近邻相联系。本文试图通过对各局部实例进行约束，提出半监
2021-05-28 17:34:47
3998
4
原创 四个激活函数
激活函数首先要了解神经网络的基本模型。单一神经元模型如下图所示。神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值，并将输入值传递给下一层，输入层神经元节点会将输入属性值直接传递给下一层（隐层或输出层）。在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数（又称激励函数）。引用激活函数的目的：使深层神经网络表达能力就更加强大（不再是输入的线性组合，而是几乎可以逼近任意函数）。一、 Sigmoid 函数sigmoid基本性质(该函数是将
2021-05-24 22:19:53
606
原创 GBDT与xgBOOST代码复现
一、GBDT原理与应用1.1 原理GBDT由两部分组成，分别是GB（Gradient Boosting）和DT（Decison Tree）。DT采用CART的回归树，GB指的是沿着梯度方向，构造一系列的弱分类器函数，并以一定权重组合起来，形成最终决策的强分类器。GBDT是一种基于集成思想的决策树模型，本质是基于残差学习。特点在于：可处理各种类型的数据；有着较高的准确率；对异常值的鲁棒性强；不能并行训练数据GBDT采用加法模型，通过不断减小训练过程产生的残差，以此对数据进行回归或分类。GBDT进行多
2021-05-24 19:36:07
511
原创 支持向量机
一、定义支持向量机（SVM）是一类按监督学习方式对数据进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面 。SVM使用铰链损失函数计算经验风险并在求解系统中加入了正则化项以优化结构风险，是一个具有稀疏性和稳健性的分类器 。SVM可以通过核方法进行非线性分类，是常见的核学习方法之一 。在人像识别、文本分类等模式识别问题中有得到应用。二、代码实现Step1 库函数导入#基础函数库import numpy as np #导入画图库import matplotlib.p
2021-05-15 22:00:49
90
原创 Python机器学习房价预测
·输入数据只有一维：房子的面积·目标的数据只有一维：房子的价格根据已知房子的面积和价格进行机器学习和模型预测1.1、获取数据可以从网上找，txt格式保存；通过相关网址和平台获取。导入数据包1.2、处理数据需要标准化数据X=(X-aver(sum(Xi)))/std(Xi)步骤①数据获取与处理# 导入需要用到的库import numpy as npimport matplotlib.pyplot as plt# 定义存储输入数据（x）和目标数据（y）的数组x, y = [], []
2021-05-05 11:51:14
1228
原创 决策树知识点及代码
1.1基本流程决策树（decision tree）是一类常见的的机器学习方法，亦称“判定树”，以二分类任务为例，希望从给定训练数据集学的一个模型用以对新示例进行分类。大量数据—>模型一般的，一颗决策树包含一个根结点，若干个内部节点和若干个叶结点...
2021-04-22 20:57:13
371
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人