![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
machine learning
woshi541979210
这个作者很懒,什么都没留下…
展开
-
对线性回归中cost函数选取最小二乘原因理解
首先,我们来考虑数据拟合的实际状况:当我们寻找模型来拟合数据时,偏差是不可避免的存在的。对于线性回归,即假设定义的自变量与因变量之间存在线性关系。比如对于如下数据:我们假定存在一条直线能尽可能拟合所有数据,,其中表示噪声。也就是因为噪声,所以实际的数据分布会与预期不一致,即散落在直线附近。在线性回归中,我们假设噪声的分布满足正态分布(即高斯分布)。现在,我们已经知道噪声原创 2017-04-11 15:32:31 · 932 阅读 · 0 评论 -
逻辑回归
sigmoid,或者说exponential family具有的最佳性质,即maximum entropy的性质。虽然不清楚历史上孰先孰后,但这并不妨碍maximum entropy给了logistic regression一个很好的数学解释。为什么maximum entropy好呢?entropy翻译过来就是熵,所以maximum entropy也就是最大熵。熵原本是informatio原创 2017-04-12 15:37:19 · 259 阅读 · 0 评论