20240506——凌晨四点敲的latex公式

$\mathbf{\rho }\ge 1$为多项式函数的次数
$\mathbf{\sigma }>1$为多项式函数的次数
$\mathbf{\sigma }>0,\mathbf{\theta }<0$
$\mathbf{K}(\mathbf{x},\mathbf{z})=\mathbf{x}\cdot \mathbf{z}$
$\mathbf{K}(\mathbf{x},\mathbf{z})=(\mathbf{x}\cdot \mathbf{z}+1{)}^{\mathbf{p}}$
$\mathbf{K}(\mathbf{x},\mathbf{z})=\mathbf{exp}(-\frac{\Vert \mathbf{x}-\mathbf{z}{\Vert }^2}{2{\mathbf{\sigma }}^2})$
$\mathbf{K}(\mathbf{x},\mathbf{z})=\mathbf{tanh}(\mathbf{\delta }(\mathbf{x}\cdot \mathbf{z}+\mathbf{c}))$
线性可分支持向量机算法：
1.给定训练集 S = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , ⋅ ⋅ ⋅ ( x n , y n ) } , i = 1 , 2 , 3 ⋅ ⋅ ⋅ N , x i ∈ R n , y i ∈ { 1 , 2 , 3 , 4 } \bm{ S = \{ (x_1,y_1),(x_2,y_2),···(x_n,y_n) \},i = 1,2,3···N,x_i \in R^n ,y_i \in\{ 1,2,3,4 \}} S={(x1​,y1​),(x2​,y2​),⋅⋅⋅(xn​,yn​)},i=1,2,3⋅⋅⋅N,xi​∈Rn,yi​∈{1,2,3,4} ，其中$N$为样本数目，${\mathbf{x}}_{\mathbf{i}}$为第$i$个特征向量，$y_i$为$x_i$的标记，假定$y_i=1$时候为正例，故当$y_i=1$时,$x_i$为正例，$y_i\ne 1$时,$x_i$为负例，循环假定四次，可将一个四分类问题转化成四个二分类问题。
2.构造最优化问题：
$\mathbf{min}\frac{1}{2}\Vert \mathbf{w}{\Vert }^2$
$\mathbf{s}.\mathbf{t}.{\mathbf{y}}_{\mathbf{i}}(\mathbf{w}{\mathbf{x}}_{\mathbf{i}}+\mathbf{b})-1\ge 0$
求得最优解为：$w^{\ast },b^{\ast }$
3.由此可得到分离超平面：${\mathbf{w}}^{\ast }\cdot \mathbf{x}+{\mathbf{b}}^{\ast }=0$
4.构造分类决策函数：$\mathbf{f}(\mathbf{x})=\mathbf{sign}({\mathbf{w}}^{\ast }\cdot \mathbf{x}+{\mathbf{b}}^{\ast })$，其中$\mathbf{sign}$ 为符号函数，
$\mathbf{sign}(\mathbf{x})=\{\begin{array}{ll}+1,& \text{x}\ge 0\\ -1,& \text{x}<0\end{array}$
由于原始最优化问题不便于求解，因此引入其对偶算法，容易证明原始问题与对偶问题有相同的最
优解。
对偶算法：
1.给定训练集 S = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , ⋅ ⋅ ⋅ ( x n , y n ) } , i = 1 , 2 , 3 ⋅ ⋅ ⋅ N , x i ∈ R n , y i ∈ { 1 , 2 , 3 , 4 } \bm{ S = \{ (x_1,y_1),(x_2,y_2),···(x_n,y_n) \},i = 1,2,3···N,x_i \in R^n ,y_i \in\{ 1,2,3,4 \}} S={(x1​,y1​),(x2​,y2​),⋅⋅⋅(xn​,yn​)},i=1,2,3⋅⋅⋅N,xi​∈Rn,yi​∈{1,2,3,4}
2.构造最优问题：
$\mathbf{min}\frac{1}{2}{\sum }_{\mathbf{i}=1}^{\mathbf{N}}{\sum }_{\mathbf{j}=1}^{\mathbf{N}}{\mathbf{\alpha }}_{\mathbf{i}}{\mathbf{\alpha }}_{\mathbf{j}}{\mathbf{y}}_{\mathbf{i}}{\mathbf{y}}_{\mathbf{j}}({\mathbf{x}}_{\mathbf{i}}\cdot {\mathbf{x}}_{\mathbf{j}})-{\sum }_{\mathbf{i}=1}^{\mathbf{N}}{\mathbf{\alpha }}_{\mathbf{i}}$

$\mathbf{s}.\mathbf{t}.{\sum }_{\mathbf{i}=1}^{\mathbf{N}}{\mathbf{\alpha }}_{\mathbf{i}}{\mathbf{y}}_{\mathbf{i}}=0,{\mathbf{\alpha }}_{\mathbf{i}}\ge 0,\mathbf{i}=1,2\cdot \cdot \cdot ,\mathbf{N}$
3.计算
${\mathbf{w}}^{\ast }={\sum }_{\mathbf{i}=1}^{\mathbf{N}}{\mathbf{\alpha }}_{\mathbf{i}}^{\ast }{\mathbf{y}}_{\mathbf{i}}{\mathbf{x}}_{\mathbf{i}}$
选择${\mathbf{\alpha }}^{\ast }$的一个正分量${\mathbf{\alpha }}_{\mathbf{j}}\ge 0$，计算
${\mathbf{b}}^{\ast }={\mathbf{y}}_{\mathbf{j}}-{\sum }_{\mathbf{i}=1}^{\mathbf{N}}{\mathbf{\alpha }}_{\mathbf{i}}^{\ast }{\mathbf{y}}_{\mathbf{i}}({\mathbf{x}}_{\mathbf{i}}\cdot {\mathbf{x}}_{\mathbf{j}})$
4.由此得到超平面：
${\mathbf{w}}^{\ast }\cdot \mathbf{x}+{\mathbf{b}}^{\ast }=0$
5.构造分类决策函数：$\mathbf{f}(\mathbf{x})=\mathbf{sign}({\mathbf{w}}^{\ast }\cdot \mathbf{x}+{\mathbf{b}}^{\ast })$

$\frac{2}{\Vert \mathbf{w}\Vert }$

$\mathbf{w}={\sum }_{\mathbf{i}=1}^{\mathbf{N}}{\mathbf{\alpha }}_{\mathbf{i}}{\mathbf{y}}_{\mathbf{i}}{\mathbf{x}}_{\mathbf{i}}$

$\Vert \mathbf{w}{\Vert }^2$

${\mathbf{x}}_{\mathbf{ij}}$

${\sum }_{\mathbf{i}=1}^{\mathbf{N}}\frac{\partial \Vert \mathbf{w}{\Vert }^2}{\partial {\mathbf{x}}_{\mathbf{ij}}}=\mathbf{\gamma }|{\mathbf{w}}_{\mathbf{j}}|$

${\mathbf{v}}_{\mathbf{j}}=\frac{{\mathbf{w}}_{\mathbf{j}}^{\ast 2}}{{\sum }_{\mathbf{j}=1}^{\mathbf{k}}{\mathbf{w}}_{\mathbf{j}}^{\ast 2}}$

（1）残差检验
绝对残差：$ϵ(k)=x^{(0)}(k),k=2,3,\cdot \cdot \cdot ,n$
相对残差: $ϵ(k)=\frac{|x^{(0)}(k)-\hat{x}(k)|}{x^{(0)}(k)}\times 100\%$
如果$\overline{{ϵ}_r}<20\%$，则认为GM（1,1）对原数据的拟合达到一般要求。
如果$\overline{{ϵ}_r}<10\%$，则认为GM（1,1）对原数据的拟合效果非常不错。
（2）级比偏差检验
首先由$x^{(0)}(k-1)$和$x^{(0)}(k)$计算出原始数据的级比$\sigma (k)$:
$\sigma (k)=\frac{x^{(0)(k)}}{x^{(0)}(k-1)}(k=2,3,\cdot \cdot \cdot n)$
再根据预测出来的发展系数（$-\hat{a}$）计算出相应的级比偏差和平均级比偏差：
$\eta (k)=|1-\frac{1-0.5\hat{a}}{1+0.5\hat{a}}\frac{1}{\sigma (k)}|$，$\bar{\eta }={\sum }_{k=2}^n\eta (k)/(n-1)$
如果$\bar{\eta }<0.2$，则认为GM（1,1）对原数据的拟合达到一般要求。
如果$\bar{\eta }<0.1$，则认为GM（1,1）对原数据的拟合效果非常不错。