逻辑回归实例

玩了好几天，终于把这部分完成了。通过对之前的逻辑回归的理解再加上梯度下降找最优值，把一个完整的逻辑回归算法做出来。

1.首先需要这几个头文件，numpy矩阵操作，pandas文件操作，pyplot画图操作

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

2.运用pandas的read_csv对原始文件的读取，由于原始文件没有列名，在names里指定了列名。数据分为三列，Exam1,2为成绩，最后一列为这个学生是否被录取，1代表被录取。逻辑回归的任务就是给出两列成绩分类，是否该学生可以被录取。

import os
path = 'data' + os.sep + 'LogiReg_data.txt'
pdData = pd.read_csv(path, header=None, names=['Exam1', 'Exam2', 'Admitted'])
print(pdData.head())
print(pdData.shape)

       Exam1      Exam2  Admitted
0  34.623660  78.024693         0
1  30.286711  43.894998         0
2  35.847409  72.902198         0
3  60.182599  86.308552         1
4  79.032736  75.344376         1
(100, 3)

3.将数据以散点图的形式画出来。首先将被录取positive和未被录取negative从原始数据中找出来。后面就是准备一个区域将数据画出来。指定颜色，形状等。

positive = pdData[pdData['Admitted'] == 1]
negative = pdData[pdData['Admitted'] == 0]

fig, ax = plt.subplots(figsize=(10,5))
ax.scatter(positive['Exam1'], positive['Exam2'], s = 30, c = 'b', marker='o',label='Admitted')
ax.scatter(negative['Exam1'], negative['Exam2'], s = 30, c = 'r', marker='x',label='Not Admitted')
ax.legend()
ax.set_xlabel('Exam1 Score')
ax.set_ylabel('Exam2 Score')

4.首先先定义假设函数，通过调用model函数，返回一个0-1的值，可以判断该学生是否被录取。

def sigmod(z):
    return 1/ (1+np.exp(-z))
def model(X, theta):
    return sigmod(np.dot(X, theta.T))

5.由于是矩阵相乘，有三个theta，而x只有两列，所以添加一列全为1的一列。最后一列为y值。