介绍
逻辑分布
逻辑分布是连续性的概率分布。深度学习中常用的Sigmoid函数就是逻辑分布函数 μ = 0 , γ = 1 μ = 0,γ = 1 μ=0,γ=1 的特殊形式。
逻辑回归
逻辑回归(Logistic Regression),叫回归,但实际是分类模型。常用于二分类。
易知,拟合决策边界(可线性,可多项式)得到的是连续的,需建立与分类的概率联系。最理想的是使用单位阶跃函数,但其不可微。因此,常用对数几率函数替代。
分析过程
学习机器学习的算法的时候,几乎都可以按照代价函数,求解和防止过拟合的步骤进行学习。
代价函数
最大化似然函数。
求解
有很多,常用梯度下降和牛顿法。
防止过拟合
利用正则化防止过拟合。
参考链接:
https://zhuanlan.zhihu.com/p/74874291