线性转换非线性sigmoid

最新推荐文章于 2022-09-08 11:57:43 发布
最新推荐文章于 2022-09-08 11:57:43 发布
阅读量986 收藏 2
点赞数
分类专栏： 算法 文章标签： sigmoid
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43923133/article/details/102668825
版权

根据特定需求应用sigmoid函数

之前有查到sigmoid的公式，但是需要传递参数来根据需求跳参得出结果：

def sigmoid(x):
    delta = 45
    return 1 / (1+math.exp(-(x-delta)))

其中delta是个基准点，需要自己按需求调试
sigmoid值域为（0～1）

ted.qu
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
从线性到非线性模型-支持向量机
myazi
09-13 2459
从线性到非线性模型 1、线性回归，岭回归，Lasso回归，局部加权线性回归 2、logistic回归，softmax回归，最大熵模型 3、广义线性模型 4、Fisher线性判别和线性感知机 5、三层神经网络 6、支持向量机 六、支持向量机 ​ 在线性模型中，Fisher线性判别和线性感知机可以说是以上所有模型的分类依据，前者是映射到一维执其两端进行分...
线性方程改成非线性
weixin_43923133的博客
10-18 867
本组方程式有一定局限性和特殊性: 在0-1范围内，按照某一点a定为区分点，a属于（0-1）。小于a的数要比本身靠近0，大于a的数要比a本身更靠近1。 本文应用原理为平方和开方，小于1的数平方后更小，开平方后比本身更大。 代码实现： 设中间值为0.6 a = lambda x: 0.6 if x == 0.6 else x ** 2 if x < 0.6 else sqrt(x) ...
非线性转换
丁磊_ml的博客
08-11 8575
我们之前的课程都是假设数据是线性可分的，那么我们就可以用一条直线将其分开。 比如，想这样 然而现实生活中并不是这样的 　 像上面的那张图，无论我们用怎样的线性模型都无法将其很好的分开。但是我们发现一个圆可以很好的解决这个问题 他的分类器方程为 那么我们把1,x21x_1^2，x22x_2^2设定为z0z_0,z1z_1,z2z_2,就相当于得到了一条关于z的线性方程。
(16) 应用激活函数Sigmoid函数进行非线性转换
段智华的博客
03-31 2866
(2)隐藏层Hidden Layer的处理。例如，TensorFlow的可视化图中，输入层x1，x2接收所有的数据，汇聚起来然后在隐藏层的第一层的第一个神经元进行...
线性变换与非线性变换
yhblog的博客
11-08 775
-参考：https://www.cnblogs.com/Renyi-Fan/p/13708454.html
zzj.rar_matlab 非线性
07-15
4. **非线性模型拟合**：通过Matlab的`nlinfit`函数，我们可以拟合数据到非线性模型，例如指数、幂律或sigmoid函数，从而理解数据的趋势和规律。 5. **非线性滤波**：在信号处理中，非线性滤波如卡尔曼滤波器的扩展...
基于BP神经网络的非线性函数拟合
01-17
每个神经元都有一个激活函数，如sigmoid或tanh，用于将输入转换为非线性输出。网络的训练过程通过反向传播误差来更新权重，从而最小化网络的预测输出与实际目标值之间的差距。 在MATLAB中，我们可以使用内置的`...
BP神经网络的非线性系统建模_非线性函数拟合的MATLAB代码
03-29
每一层由若干个神经元组成，每个神经元内部包含一个激活函数，如Sigmoid或ReLU，这些函数能够引入非线性特性。 在MATLAB中实现BP神经网络，通常需要以下几个步骤： 1. **数据预处理**：将输入和目标数据归一化，以...
sklearn线性逻辑回归和非线性逻辑回归的实现
09-16
非线性逻辑回归（通常指的是使用非线性特征转换后的逻辑回归）则是通过增加数据的特征维度来实现非线性决策边界。例如，通过多项式特征转换，我们可以将原本线性的关系转化为非线性。在`sklearn`中，可以使用`...
04 线性分类1
08-04
总结来说，线性分类是通过线性模型进行预测，可以是硬分类或软分类，可以借助非线性转换处理非线性问题，而线性判别分析、逻辑回归和高斯判别分析等方法提供了不同的理论框架和实践策略。在实际应用中，选择哪种方法...
Sigmod/Softmax变换
皮皮blog
09-03 1万+
softmax建模使用的分布是多项式分布，而logistic则基于伯努利分布。多个logistic回归通过叠加也同样可以实现多分类的效果，但是 softmax回归进行的多分类，类与类之间是互斥的，即一个输入只能被归为一类；多个logistic回归进行多分类，输出的类别并不是互斥的，即"苹果"这个词语既属于"水果"类也属于"3C"类别。
线性网络和非线性网络,神经网络是线性的吗
纸尿裤排行
09-08 1079
2、的确对于单一的样本A，经过由relu激活函数所构成神经网络，其过程确实可以等价是经过了一个线性变换M1，但是对于样本B，在经过同样的网络时，由于每个神经元是否激活（0或者Wx+b）与样本A经过时情形不同了（不同样本），因此B所经历的线性变换M2并不等于M1。relu虽然只有两段，但同样也是非线性激活函数，道理与之是一样的。二、隐层节点数在BP网络中，隐层节点数的选择非常重要，它不仅对建立的神经网络模型的性能影响很大，而且是训练时出现“过拟合”的直接原因，但是目前理论上还没有一种科学的和普遍的确定方法。
【信号处理】非线性信号处理（Python代码实现）
weixin_46039719的博客
08-14 574
本文已经通过实验和数值研究了飞秒脉冲在Kerr介质中的传播。Kerr材料中的非线性传播导致光学图案和细丝的形成[1]。研究了光脉冲在Kerr介质中的传播与流体动力系统演化之间的相似性，并建议使用光学系统来模拟流体动力学。...
机器学习中三个典型的非线性函数
a45691316的博客
09-18 1207
机器学习中三个典型的非线性函数 1. sgn 函数 sgn(x)叫做x的符号函数。sgn是sign的缩写。 它的定义是sgn(x)= 1 (x>0); 0 (x=0); -1 (x<0)....
线性关系 与 非线性关系
热门推荐
zbbmm的博客
08-14 2万+
线性linear，指量与量之间按比例、成直线的关系，在空间和时间上代表规则和光滑的运动； 非线性non-linear则指不按比例、不成直线的关系，代表不规则的运动和突变。 线性：指量与量之间按比例、成直线的关系，在数学上可以理解为一阶导数为常数的函数； 线性：指量与量之间按比例、成直线的关系，在数学上可以理解为一阶导数为常数的函数； 非线性：则指不按比例、不成直线的关...
深度学习与计算机视觉学习笔记01-线性变换和非线性变换
Yeon_Zhang的学习笔记
07-12 9062
1.线性变换 （1）两个基本性质 a.加性:两个向量的和经过变换后等于两个向量变换后的和 b.齐性：一个向量缩放一个倍数变换等于先变换再缩放一个倍数 （2）点积和投影 a.点积：：通俗意义上的内积，表示两个向量对应元素的乘积，是欧几里得的标准内积。由此可知向量的长度公式为 对于点积的理解可以从变换和缩放角度加以分析...
线性运算和非线性运算
阿桑的专栏
04-20 1万+
线性运算是加法和数量乘法，对于不同向量空间线性运算一般有不同的形式，它们必须满足交换律，结合律，数量加法的分配律，向量加法的分配律。线性是指量与量之间按比例、成直线的关系，在空间和时间上代表规则和光滑的运动；非线性non-linear则指不按比例、不成直线的关系，代表不规则的运动和突变。从根本上来讲就是指变量X增加△X，则变量Y增加 k△X，即增量之间成固定的比例关系。 转载自：https://...
使用python实现深度神经网络 5
oxuzhenyi的博客
06-11 5082
深度学习 一、实验介绍 1.1 实验内容 上次实验我们使用浅层神经网络达到了0.9的验证集准确率，本次实验我们将增加神经网络的深度，进行真正的深度学习。 1.2 实验知识点 梯度消失问题交叉熵损失函数 1.3 实验环境 python 2.7numpy 1.12.1scipy 0.19.0 二、实验步骤 2.1 增加网络的深度 要进行深度学
数据预处理——非线性转换 C++ 实现及案例
最新发布
05-23
非线性转换是数据预处理中的一种重要方法，它可以将原始数据通过某种函数映射到另一个空间中，使得数据在新的空间中更易于分类或更好地满足模型的假设。本文将介绍如何使用C++实现非线性转换，并给出一个实例。 一、非线性转换概述 非线性转换的思想是将原始数据通过某种非线性函数映射到另一个空间中，使得数据在新的空间中更易于分类或更好地满足模型的假设。常见的非线性函数包括幂函数、指数函数、对数函数、sigmoid函数等。例如，可以使用对数函数将原始数据转换为对数值，使得数据在新的空间中更符合正态分布。 二、非线性转换的实现 使用C++实现非线性转换，需要先定义一个非线性转换的函数，然后将原始数据通过该函数进行转换。以下是一个实现非线性转换的示例代码： ```cpp #include <iostream> #include <cmath> #include <vector> using namespace std; // 定义一个幂函数 double power_function(double x, double alpha) { return pow(x, alpha); } // 定义一个指数函数 double exp_function(double x, double alpha) { return exp(alpha * x); } // 定义一个对数函数 double log_function(double x, double alpha) { return log(x) / log(alpha); } // 定义一个sigmoid函数 double sigmoid_function(double x, double alpha) { return 1 / (1 + exp(-alpha * x)); } // 定义一个非线性转换函数 vector<double> nonlinear_transform(vector<double> data, double (*f)(double, double), double alpha) { vector<double> transformed_data; for (int i = 0; i < data.size(); i++) { transformed_data.push_back(f(data[i], alpha)); } return transformed_data; } int main() { // 原始数据 vector<double> data{1, 2, 3, 4, 5}; // 转换为幂函数 vector<double> transformed_data = nonlinear_transform(data, power_function, 2); cout << "Power function: "; for (int i = 0; i < transformed_data.size(); i++) { cout << transformed_data[i] << " "; } cout << endl; // 转换为指数函数 transformed_data = nonlinear_transform(data, exp_function, 0.5); cout << "Exp function: "; for (int i = 0; i < transformed_data.size(); i++) { cout << transformed_data[i] << " "; } cout << endl; // 转换为对数函数 transformed_data = nonlinear_transform(data, log_function, 2); cout << "Log function: "; for (int i = 0; i < transformed_data.size(); i++) { cout << transformed_data[i] << " "; } cout << endl; // 转换为sigmoid函数 transformed_data = nonlinear_transform(data, sigmoid_function, 1); cout << "Sigmoid function: "; for (int i = 0; i < transformed_data.size(); i++) { cout << transformed_data[i] << " "; } cout << endl; return 0; } ``` 该代码定义了四个常见的非线性函数：幂函数、指数函数、对数函数和sigmoid函数。然后定义了一个非线性转换函数`nonlinear_transform`，该函数接受一个数据向量、一个非线性函数和一个参数，返回一个转换后的数据向量。在`main`函数中，将原始数据转换为不同的非线性函数，分别输出转换后的数据。 三、案例 假设有一份数据集，包含两个特征$x_1$和$x_2$，标签$y$为0或1。现在需要将特征经过非线性转换后输入到一个逻辑回归模型中进行分类。以下是一个实现该过程的示例代码： ```cpp #include <iostream> #include <cmath> #include <vector> #include <random> using namespace std; // 定义sigmoid函数 double sigmoid_function(double x) { return 1 / (1 + exp(-x)); } // 定义非线性转换函数 vector<double> nonlinear_transform(vector<double> data) { vector<double> transformed_data; transformed_data.push_back(data[0]); transformed_data.push_back(data[1]); transformed_data.push_back(pow(data[0], 2)); transformed_data.push_back(pow(data[1], 2)); transformed_data.push_back(data[0] * data[1]); return transformed_data; } int main() { // 生成随机数据 random_device rd; mt19937 gen(rd()); uniform_real_distribution<> dis(-1, 1); vector<vector<double>> X; vector<double> Y; for (int i = 0; i < 1000; i++) { double x1 = dis(gen); double x2 = dis(gen); int y = (x1 * x1 + x2 * x2 > 0.5) ? 1 : 0; X.push_back({x1, x2}); Y.push_back(y); } // 对数据进行非线性转换 vector<vector<double>> transformed_X; for (int i = 0; i < X.size(); i++) { transformed_X.push_back(nonlinear_transform(X[i])); } // 训练逻辑回归模型 int max_iter = 100; double learning_rate = 0.01; int n_samples = X.size(); int n_features = transformed_X[0].size(); vector<double> w(n_features, 0); vector<double> b(n_samples, 0); for (int iter = 0; iter < max_iter; iter++) { for (int i = 0; i < n_samples; i++) { double z = b[i]; for (int j = 0; j < n_features; j++) { z += w[j] * transformed_X[i][j]; } double a = sigmoid_function(z); double dz = a - Y[i]; for (int j = 0; j < n_features; j++) { w[j] -= learning_rate * dz * transformed_X[i][j]; } b[i] -= learning_rate * dz; } } // 预测测试集 vector<vector<double>> X_test{ {-0.5, -0.5}, {0.5, 0.5} }; vector<vector<double>> transformed_X_test; for (int i = 0; i < X_test.size(); i++) { transformed_X_test.push_back(nonlinear_transform(X_test[i])); } for (int i = 0; i < X_test.size(); i++) { double z = 0; for (int j = 0; j < n_features; j++) { z += w[j] * transformed_X_test[i][j]; } double a = sigmoid_function(z); cout << "Test sample " << i << ": " << a << endl; } return 0; } ``` 该代码生成了1000个随机数据，并将这些数据分为两类：$x_1^2+x_2^2>0.5$的数据标签为1，其余数据标签为0。然后对数据进行非线性转换，将特征$x_1$和$x_2$转换为$x_1$、$x_2$、$x_1^2$、$x_2^2$和$x_1x_2$。最后使用逻辑回归模型对转换后的数据进行训练，并将测试集输入到训练好的模型中进行预测。 四、总结 本文介绍了如何使用C++实现非线性转换，并给出了一个实例。非线性转换是数据预处理中的一种常用方法，可以使得数据在新的空间中更易于分类或更好地满足模型的假设。在实际应用中，需要根据具体问题选择合适的非线性函数进行转换。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值