逻辑回归的假设函数:
逻辑回归的代价函数:
为拟合参数,使得代价函数最小,可以使用梯度下降法,但不推荐使用共轭梯度法和有限制的共轭梯度法,下面展示一个高级优化算法,可以理解为不用设置学习率的梯度下降法:
1-matlab
%%函数文件
function [jVal,gradient]=costFunction(theta)
jVal=(theta(1)-5)^2+(theta(1)-5)^2;
gradient=zeros(2,1)
gradient(1)=2*(theta(1)-5);
gradient(2)=2*(theta(2)-5);
end
%%代码文件
%梯度下降法的matlab实现
options=optimset('gradObj','on','MaxITer',100);
initialTheta=zeros(2,1);
[optTheta,functionVal,exitFlag]=fminunc(@costFunction,initialTheta,options)
(12条消息) 非线性优化-matlab函数库-optimset_walkingMa的专栏-CSDN博客_optimset
逻辑回归(Logistic Regression)和梯度下降(Gradient Descent) - zhang-X - 博客园 (cnblogs.com)