逻辑回归(logistic regression)原理理解+matlab实现

最新推荐文章于 2024-08-16 22:50:06 发布

yanxiaopan

最新推荐文章于 2024-08-16 22:50:06 发布

阅读量1w

点赞数 1

分类专栏：机器学习算法

本文链接：https://blog.csdn.net/yanxiaopan/article/details/53940372

版权

本文介绍了逻辑回归的基本原理，包括使用梯度下降法进行迭代优化，并提供了两篇CSDN博主的详细讲解链接。此外，还引用了一篇关于MATLAB实现逻辑回归的博客教程。

摘要由CSDN通过智能技术生成

在这里插入图片描述

使用梯度下降法迭代：

function theta =logisticReg()
%   梯度下降法寻找最合适的theta，使得代价函数J最小
options=optimset('GradObj','on','MaxIter',100);
inittheta=[0 0]';
theta=fminunc(@costFunc,inittheta,options);
end

%%
function [J,gradient] = costFunc(theta)
x = [0.0 0.1 0.7 1.0 1.1 1.3 1.4 1.7 2.1 2.2]';
y = [0 0 1 0 0 0 1 1 1 1]'; 
m=size(x,1);
tmp=theta(1)+theta(2)*x;        %theta'x
hypothesis=1./(1+exp(-tmp));  %logistic function
delta=log(hypothesis+0.01).*y+(1-y).*log(1-hypothesis+0.01);       %加上0.01是为了防止x为0
J=-sum(delta)/m;
gradient(1)=sum(hypothesis-y)/m;  %x0=1;
gradient(2)=sum((hypothesis-y).*x)/m;       %theta=theta-a*gra