logistic算法解析

[python]  view plain  copy

1. <span style="font-family: Arial, Helvetica, sans-serif; background-color: rgb(255, 255, 255);">对于《机器学习实战》中逻辑斯谛回归算法，其中有一行不好理解：</span>  

[python]  view plain  copy

1. weights = weights + alpha * dataMatrix.transpose() * error  

原理推导如下：

附：logistic算法

[python]  view plain  copy

1. def sigmoid(inX):  
2.     return 1.0/(1+exp(-inX))  
3.       
4. def gradAscent(dataMatIn, classLabels):  
5.     dataMatrix = mat(dataMatIn)  
6.     labelMat = mat(classLabels).transpose()  
7.     m, n = shape(dataMatrix)  
8.     alpha = 0.001  
9.     maxCycles = 500  
10.     weights = ones((n, 1))  
11.     for k in range(maxCycles):  
12.         h = sigmoid(dataMatrix*weights)  
13.         error = (labelMat - h)  
14.         weights = weights + alpha * dataMatrix.transpose() * error  
15.     return weights