逻辑回归(logistic)
1、L就是用sigmod函数
2、损失函数为:
逻辑回归的损失函数与线性回归相似,就是多了sigmoid函数,将概率映射到0-1之间。
再用极大似然思想,将L(θ)函数最大化。
然后梯度上升,将函数达到最大化
与吴恩达版本不同的是前面多一个负号,把上升变成我们熟悉的梯度下降。
那么逻辑回归的优缺点:
那么我们遇到多分类怎么办,我们可以选择softmax回归:
我们可以通过softmat的公式求出每一个分类的概率,然后取它最大概率的为它的分类结果。