Theano的多分类逻辑回归代码解析
这份代码主要借助theano框架用多分类的逻辑回归模型做手写体数字识别的问题,优化模型时采用的是随机
梯度下降的算法。
下面是多分类逻辑回归的模型公式,它的参数是权值矩阵W
和偏值向量b
,最后公式(1)中的P得出的是属
于这一类的概率,而整个模型的输出是所有 P(Y=i|x,W,b) 中最大的一个,例如一个10分类问题,最终计
算出10个P
,最大的那个P
所对应的类别i
(注意这里有多少类,i
就有几个)就是最终的分类输出类别。
P(Y=i|x,W,b)=softmaxi(Wx+b)=eWix+