2.Logistic Regression

参考斯坦福的UFLDL教程

http://ufldl.stanford.edu/tutorial/supervised/LogisticRegression/

重要公式

1.
J(θ)的计算公式

2.
梯度g的计算公式

代码

logreg.m文件

%加上这三句才可以用minFunc,loadMNISTImages,loadMNISTLabels等函数
addpath ../common
addpath ../common/minFunc_2012/minFunc
addpath ../common/minFunc_2012/minFunc/compiled

%binary_digits=true表示只取标签为0，1样本
binary_digits = true;
%载入数据
[train,test] = load_mnist(binary_digits);

% train.X 784*12665,784个特征，12665个样本
%给train.X 加上一行截距 全为1 则train.X  785*12665
train.X = [ones(1,size(train.X,2)); train.X]; 

%test.X 784*2115,784个特征，2115个样本
%给test.X 加上一行截距 全为1 则test.X  785*2115
test.X = [ones(