**使用Python实现逻辑回归的算法**-------文章中有源码

实验目的
使用Python实现逻辑回归的算法
实验原理
（1）收集数据：采用任意方法收集数据。
（2）准备数据：由于需要进行距离计算，因此要求数据类型为数值型。另外，结构化数据格式则最佳。
（3）分析数据：采用任意方法对数据进行分析。
（4）训练算法：大部分时间将用于训练，训练的目的是为了找到最佳的分类回归系数。
（5）测试算法：一旦训练步骤完成，分类将会很快。
（6）使用算法：首先，我们需要输入一些数据，并将其转换成对应的结构化数值；接着，基于训练好的回归系数就可以对这些数值进行简单的回归计算，判定它们属于哪个类别；在这之后，我们就可以在输出的类别上做一些其他分析工作。

实验内容（表格区域可拉长）
（1）有如下数据集（2个特征，10个样本）：logisticData.txt，试采用逻辑回归，计算各特征的权重和偏移。
（2）手写数字识别
压缩包中包含2个文件夹，分别名为trainingDigits（训练数据）和testDigits（测试数据），文件夹中存放如果txt文件，

代码：

import numpy as np
import os


def getData(path):
    data_x = []
    data_y = []
    for file in os.listdir(path): #遍历返回指定文件夹包含的文件或者文件夹名字列表
        #注意
        test = np.zeros(10, int)
        test[int(file[0])] = 1
        data_y.append(test)

        # temp=[1]
        # data_y.append(int(file[0]))
        with open(path + "/" + file) as lines:   #  读取所有文件
            temp = []
            for line in lines:  #  遍历
                x = line.strip()   #清洗数据
                for i in x:
                    temp.append(int(i))
            data_x.append(temp)

    return np.array(data_x), np.array(data_y)

def soft(z):
    h = []
    for i in z:
        i = i - np.max(i)
        one = []
        for j in i:
            one.append(np.exp(j) / np.sum(np.exp(i)))
        h.append(one)
    return np.array(h)


def logistic(x, y, a=0.0005, times=1000):
    m, n = x.shape   #  m=946  n=1024
    k,l=y.shape      #  l=10
    w = np.array(np.random.rand(n, l))
    #print(w)
    for i in range(times):
        z = np.dot(x, w)
        H = soft(z)
        gradient = np.dot(x.T, (H - y))
        w = w - a * gradient
    return w


def test_w(x, y, w):
    h = soft(np.dot(x, w))
    j=len(h)
    Q=len(y)
    sum = 0
    for i in range(j):
        index= np.argmax(h[i])   #返回最大元素索引
        h[i] = np.zeros(len(h[i]))  #自己创建指定大小的数组
        h[i][index] = 1
        if (h[i] == y[i]).all(): #判断参数是否都为true
            sum += 1
    return sum / Q


if __name__ == "__main__":
    x, y = getData("testDigits")
    print(y)
    x1, y1 = getData("trainingDigits")
    w = logistic(x, y)
    # print(w)
    print(test_w(x1, y1, w))

截图：

import numpy as np
def getData(path):
    data=[]
    with open(path) as lines: #读取所有文件
        for line in lines:   #遍历
            x=line.strip().split(" ")#清洗数据
            #列表，第一个元素为1
            temp=[1]
            for i in x:
                temp.append(int(i))
            data.append(temp)
    return data


def sigmoid(z):
    return 1/(1+np.exp(-z))

def logistic(x,y,a=0.01,times=20000):
    m,n=x.shape  #x.shape==shape[0]
    # print(m)  10
    # print(n)  3
    w=np.array(np.random.rand(n,1))
    for i in range(times):
        z=np.dot(x,w)
        H=sigmoid(z)
        gradient= np.dot(x.T,(H-y))
        w=w-a*gradient
    return w


if __name__=="__main__":
    data=getData("logisticData.txt")
    x=[]
    y=[]
    for i in data:
        x.append(i[:-1])
        y.append(i[-1])
    x=np.array(x)
    m=np.array(y).shape[0]  #读取一维的长度（shape(x,y),x行数,y列数）
    #print(m)
    y=np.array(y).reshape(m,1)  #转换成m行一列
    w=logistic(x,y)
    print(sigmoid(np.dot(x,w)))