用python自己实现对数几率回归的二分类、多分类（不调用现成模型）

最新推荐文章于 2024-04-28 13:05:15 发布

AnronSakura

最新推荐文章于 2024-04-28 13:05:15 发布

阅读量395

点赞数 2

分类专栏：机器学习文章标签： python 回归分类

本文链接：https://blog.csdn.net/m0_53046782/article/details/127467357

版权

本文介绍了如何使用Python从头实现对数几率回归模型，用于二分类和多分类任务。文中提到的二分类代码基于《机器学习》西瓜书的数据，虽然未进行数据集划分，但展示了模型的基本应用。对于多分类，作者采用了OvR策略，并用鸢尾花数据集实现了97%的准确率。

摘要由CSDN通过智能技术生成

对数几率回归模型是机器学习中一种常用的二分类模型，可以实现简单的二分类问题，关于对数几率回归模型想要了解更多请参考这篇文章链接，里面详细介绍了对数几率回归模型的逻辑回归函数、损失函数以及梯度下降等细节，我的代码就是在这篇文章的基础上写的。

下面贴出二分类问题的代码

import numpy as np
import math

class LogisticModel(object):
    #初始化函数
    def __init__(self,x,y,a=0.005,n=0.00001):
        self.x=x#特征集
        self.y=y#标签集
        self.a=a#学习率
        self.n=n#精度
        self.theta=np.random.random(len(x[0]))#初始权重随机得到
    
    #sigmod函数
    def g(self,z):
        return 1/(1+math.exp(-z))

    #逻辑回归
    def h(self,x):#这里的x相当于x[0]
        # for i in range(len(self.x)):
        #     #先转置再乘
        #     if (np.dot(self.theta[i],self.x[i])>0): self.ytest[i]=1
        #     else: self.ytest[i]=0
        z=np.dot(self.theta,x)
        return self.g(z)

    #损失函数
    def loss(self,m,x):
        #m为x和y的长度
        s=0.0
        for i in range(m):