逻辑回归整理

本文探讨了逻辑回归的实现,包括使用随机梯度下降的代码实现,详细解析了sigmoid函数的导数,并澄清了一个常见疑问——逻辑回归本质上是分类模型,尽管其概率输出在某些场景下可能导致误解。
摘要由CSDN通过智能技术生成

随机梯度下降的逻辑回归代码

import numpy as np
import pandas as pd
from sklearn.datasets import load_iris

ld = load_iris()
x_data = ld.data
y_target = ld.target
y_train = y_target[y_target != 2]
a = []
for i, j in enumerate(y_train):
    a.append(x_data[i])

x_train = pd.DataFrame(a)


class logistic_regression():

def fit(self, x_train, y_train, k=200):
    self.x_train = x_train
    self.y_train = y_train
    self.k = k

def sigmoid(self, inx):
    return 1 / (1 + np.exp(-inx))

def logistic_regression_model(self):
    x_train_1 = np.array(self.x_train)
    y_train_1 = np.array(self.y_train)
    weights = np.ones(np.shape(x_train_1)[1])
    alpha = 0.0001
    for j in range(self.k):
        for i in range(np.shape(x_train_1)[0]):
            h = self.sigmoid(np.sum(x_train_1[i] * weights))
            error = h - y_train_1[i]
            weights = weights - alpha * error * x_train_1[i]
逻辑回归是一种常用的分类算法,用将数据分为两个或多个类。在MATLAB中,可以使用logistic regression函数实现逻辑回归。 逻辑回的基本原理是通过拟合一个逻辑函数来预测输入变量与输出变量之间的关系。逻辑函数通常采用sigmoid,将输入值映射到0和1之间的概率值。 在MATLAB中,可以使用logistic函数来训练逻辑回归模型该函数可以接受输入变量和对应的类别标签作为输入,并返回练好的模型。可以使用训练好的模型来进行预测。 以下是辑回归在MATLAB中的基本步骤: 1. 准备数据:将输入变量和对应的类别标签整理成矩阵形式。 2. 定义模型:使用logistic regression函数创建一个逻辑回归模型对象。 3. 训练模型:使用训练数据调用模型对象的train方法进行模型训练。 4. 预测结果:使用训练好的模型对新的输入数据进行预测。 下面是一个示例代码,展示了如何在MATLAB中使用逻辑回归: ```matlab % 准备数据 X = [1 2; 2 3; 3 4; 4 5]; % 输入变量 y = [0; 0; 1; 1]; % 类别标签 % 定义模型 model = fitglm(X, y, 'Distribution', 'binomial', 'Link', 'logit'); % 预测结果 newX = [5 6; 6 7]; % 新的输入数据 predictedY = predict(model, newX); % 预测结果 disp(predictedY); ``` 这段代码中,我们首先准备了输入变量X和对应的类别标签y。然后使用fitglm函数创建了一个逻辑回归模型对象model,并调用train方法进行模型训练。最后,使用predict函数对新的输入数据newX进行预测,并将结果打印出来。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值