机器学习案例实战：Python实现逻辑回归与梯度下降策略

最新推荐文章于 2020-12-09 10:16:30 发布

Something Just Like

最新推荐文章于 2020-12-09 10:16:30 发布

阅读量672

点赞数 1

分类专栏：逻辑回归机器学习文章标签： Python 逻辑回归梯度下降

本文链接：https://blog.csdn.net/qq_14815661/article/details/94169575

版权

本文通过Python实现逻辑回归模型，用于预测大学录取情况。讲解了Sigmoid函数、模型构建、损失函数、梯度计算，并探讨了不同停止策略对梯度下降的影响，最终模型精度达到89%。

摘要由CSDN通过智能技术生成

原创文章,如需转载请保留出处
本博客为唐宇迪老师python数据分析与机器学习实战课程学习笔记

一. Python实现逻辑回归任务概述
1.1 问题描述
我们将建立一个逻辑回归模型来预测一个学生是否被大学录取。假设你是一个大学系的管理员，你想根据两次考试的结果来决定每个申请人的历史数据，你可以用它作为逻辑回归的训练集。对于每一个培训例子，你可以有两个考试申请人的分数和录取决定。为了做到这一点，我们将建立一个分类模型，根据考试成绩估计入学概率。

1.2 代码实现

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
%matplotlib inline

import os
path = 'data'+os.sep+'LogiReg_data.txt'
pdData = pd.read_csv(path, header=None, names=['Exam 1','Exam 2','Admitted'])
pdData.head()

Exam 1 Exam 2 Admitted
0 34.623660 78.024693 0
1 30.286711 43.894998 0
2 35.847409 72.902198 0
3 60.182599 86.308552 1
4 79.032736 75.344376 1

pdData.shape

(100, 3)


#fig, ax = plt.subplots(1,3,figsize=(15,7))，这样就会有1行3个15x7大小的子图。
positive = pdData[pdData['Admitted']==1]
negative = pdData[pdData['Admitted']==0]

fig,ax = plt.subplots(figsize=(10,5))
ax.scatter(positive['Exam 1'],positive['Exam 2'],s=30,c='b',marker='o',label='Admitted')
ax.scatter(negative['Exam 1'],negative['Exam 2'],s=30,c='r',marker='x',label='Not Admitted')
ax.legend()
ax.set_xlabel('Exam 1 Score')
ax.set_ylabel('Exam 2 Score')

在这里插入图片描述
1.3 The logistic regression