![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Machine Learning
文章平均质量分 94
Sakura_Logic
这个作者很懒,什么都没留下…
展开
-
概率视角下的线性回归笔记
概率视角下的线性回归1 概率视角下的线性回归1.1 线性回归理论模型1.2 数据1.3 最大似然估计解最小二乘法1 概率视角下的线性回归1.1 线性回归理论模型 任意给定一个随机样本(yi,xi1,xi2⋯xip),i=1,2⋯ ,N(y_i,x_{i1},x_{i2}\cdots x_{ip}),i=1,2\cdots,N(yi,xi1,xi2⋯xip),i=1,2⋯,N, iii 表示第 iii 个样本,ppp 表示特征个数。 一个线性回归模型假设 回归子 yiy_{i}yi 和原创 2020-12-23 18:19:10 · 272 阅读 · 0 评论 -
最大似然估计及估计量的无偏性
极大似然估计---以高斯分布为例1.极大似然估计1.1似然函数1.2极大似然的目的1.3极大似然求解步骤1.极大似然估计 极大似然估计方法(Maximum Likelihood Estimate,MLE)也称为最大概似估计或最大似然估计,是求估计的另一种方法,最大概似是1821年首先由德国数学家高斯(C. F. Gauss)提出。1.1似然函数 样本 X1,X2,…,XNX_1,X_2,\dots,X_NX1,X2,…,XN 取到观察值 x1,x2,…,xNx_1,x_2,\dots,x_原创 2020-07-15 20:59:28 · 10308 阅读 · 0 评论 -
机器学习之熵笔记
熵1.物理学中的熵2.信息论中的熵2.1自信息2.2信息熵2.3联合信息熵2.4条件熵2.5互信息2.6交叉熵2.7相对熵2.8信息增益2.9信息增益率2.10基尼系数1.物理学中的熵 19世纪,物理学家开始认识到,世界的动力是能量,并且提出 能量守恒定律,即能量的总和是不变的。但是,有一个现象让他们很困惑。物理学家发现,能量无法百分百地转换。比如,蒸汽机使用的是热能,将其转换为推动机器的机械能。这个过程中,总是有一些热能损耗掉,无法完全转变为机械能。一开始,物理学家以为是技术水平不高导致的,但后来发原创 2020-07-15 20:55:43 · 541 阅读 · 0 评论