机器学习算法公式的书写规范

最新推荐文章于 2024-04-19 14:16:24 发布

峻峰飞阳

最新推荐文章于 2024-04-19 14:16:24 发布

阅读量885

点赞数

分类专栏：机器学习

本文链接：https://blog.csdn.net/while0/article/details/89203007

版权

机器学习专栏收录该内容

11 篇文章 0 订阅

订阅专栏

样本数用m表示，且样本的序号表在右上角，用小括号扩上，例：

$\sum_{i=1}^{m}x^{(i)}$

所有样本的特征向量和

样本的特征数用n表示，且特征的序号标在右下角，例：

$\sum_{j=1}^{n}\omega_j x_j + b_j$

样本的每个特征乘以权值，求和，再加上偏移

单个样本的损失函数用L表示，例：

$L(h(x^{(i)}), y^{(i)})$

样本集的损失函数用J表示，例：

$J(w, b) = \frac{1}{m}\sum_{i=1}^{m}L(h(x^{(i)}), y^{(i)})$

线性回归的损失函数：

$\begin{aligned} J(w, b) = \frac{1}{2m}\sum_{i=1}^{m}(W^TX^{(i))} + b - y^{(i)})^2 \\ = \frac{1}{2m}\sum_{i=1}^{m}(\sum_{j=1}^{n}w_jX^{(i)}_j + b - y^{(i)})^2 \end{aligned}$

二分类问题相关公式：

$\begin{aligned} &Y = h_\theta(X) = \frac{1}{1+e^{-\theta^TX}} \\ &P(y=1|X;\theta) = h_\theta(X) \\ &P(y=0|X;\theta) = 1 - h_\theta(X) \\ &P(y^{(i)}|X^{(i)};\theta) = h_\theta(X^{(i)})^{y^{(i)}} * (1 - h_\theta(X^{(i)})) ^ {1 - y^{(i)}} \\ &L(\theta) = \prod^m_{i=1}{P(y^{(i)}|X^{(i)};\theta)} \\ &l(\theta) = log(L(\theta)) = \sum^m_{i=1}{P(y^{(i)}|X^{(i)};\theta)} = y^{(i)}logh_\theta(X^{(i)}) + (1-y^{(i)})log(1 - h_\theta(X^{(i)})) \\ &\theta := \theta + \alpha\bigtriangledown_\theta(l(\theta)) \\ &\theta_j := \theta_j + \alpha(y^{(i)} - h_\theta(X^{(i)})X^{(i)}_j \end{aligned}$

峻峰飞阳

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
打赏
0
评论
机器学习算法公式的书写规范

样本数用m表示，且样本的序号表在右上角，用小括号扩上，例：所有样本的特征向量和样本的特征数用n表示，且特征的序号标在右下角，例：样本的每个特征乘以权值，求和，再加上偏移单个样本的损失函数用L表示，例：样本集的损失函数用J表示，例：线性回归的损失函数：二分类问题相关公式：...
复制链接

扫一扫