人工智能基础知识总结

分析术语

• 与**同时出现：说明两者概率相同

名词术语

• 回归：就是找一个函数，去拟合给定的输入输出。
• 分类：也是找一个函数，使得对于给出的训练数据的输入输出是正确的。
• 马尔可夫决策过程：就是用状态动作奖励序列来描述问题就是马尔可夫决策过程。
• 马尔可夫过程：就是用状态序列去描述问题就是马尔可夫过程。
• 随机过程：就是随机现象的变化序列。
• 随机现象：用概率分布去描述的问题就是随机现象。
• 马尔科夫奖励过程：用状态奖励序列描述的问题就是马尔可夫奖励过程。

函数就像我之前总结的一样，有连续函数类还有非连续函数类。具体见三角函数类总结，多项式函数类总结，阶跃函数类总结。
多分类问题可以用一个标量函数来逼近也可以用一个多输入多输出的矢量函数来看，为了逼近矢量函数其实就是把多个函数拼凑起来，又因为单个函数输出无非就是$0,1$，也可以用交叉熵来衡量差异。

待补充测试分析

输入输出的个数怎么判别，如果样本是从数值上的差异来划分类别的话就是单输出，如果类别是从位置上的差异来划分类别的就是多输出。
把softmax用于后面的max函数会有什么不同？

随机变量均值与方差

我们假设有一个随机向量满足如下条件：$(x,y)\sim P(x,y)$，也就是说取$(x,y)$这个值对的概率为：$P(x,y)$，那么这个随机向量的函数也服从这个分布，比如：$(f(x,\omega ,b)-y{)}^2\sim P(x,y)$。也就是说当取$(x,y)$这个值对时，出现的概率为：$P(x,y)$，此时也会有函数值$(f(x,\omega ,b)-y{)}^2$出现，所以这个函数值出现的概率也为：$P(x,y)$。

当值对出现时，函数值也会出现，不考虑重复函数值的情况下可以说值对出现的概率与函数值出现的概率相同。也就是服从同样的分布。

从这个分布中采样一次得到：$(x_1,y_1)\sim P(x,y)$，这个对应的$(f(x_1,\omega ,b)-y_1{)}^2$也服从这个分布。这个随机变量的均值和方差我们分别表示如下：
$$\begin{array}{rl}E((f(x_1,\omega ,b)-y_1{)}^2)& =\sum _{x_1}\sum _{y_1}(f(x_1,\omega ,b)-y_1{)}^{2}P(x_1,y_1)\end{array}$$

$$\begin{array}{r}D((f(x_1,\omega ,b)-y_1{)}^2)=E((f(x_1,\omega ,b)-y_1{)}^4)-E^2((f(x_1,\omega ,b)-y_1{)}^2)\end{array}$$

当我们多次采样求平均值时有：
$$Z=\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$$

其中各个变量$(x_i,y_i)$都是独立采样得到的，也就是服从独立同分布，所以联合概率密度就是各独立概率密度的乘积。也就是说上面这个随机变量所对应的概率值为：$P(x_1,y_1)P(x_2,y_2)P(x_3,y_3)$，这个随机变量的均值与方差分别为：

同样可以用上面的分析，值对$(x_1,y_1,x_2,y_2,\cdots ,x_n,y_n)$出现的概率为$P(x_1,y_1)\ast \cdots \ast P(x_n,y_n)$，而当值对出现时，函数值$\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$也会出现，所以他们出现的概率相同，具有同样的分布。

$$\begin{array}{rl}E(Z)& =E(\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2)\\ & =\sum _{x_1}\sum _{y_1}\cdots \sum _{y_n}\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^{2}P(x_1,y_1)\cdots P(x_n,y_n)\\ & =\frac{1}{n}\sum _{i=1}^n\sum _{x_i}\sum _{y_i}(f(x_i,\omega ,b)-y_i{)}^{2}P(x_i,y_i)\\ & =E((f(x_1,\omega ,b)-y_1{)}^2)\end{array}$$

$$\begin{array}{rl}D(Z)& =D(\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2)\\ & =E(Z^2)-E^2(Z)\\ & =E([\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2]\ast [\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2])-E^2((f(x_1,\omega ,b)-y_1{)}^2)\\ & =\sum _{x_1}\sum _{y_1}\cdots \sum _{y_n}[\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2]\ast [\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2]P(x_1,y_1)\cdots P(x_n,y_n)-E^2((f(x_1,\omega ,b)-y_1{)}^2)\\ & =\frac{1}{n}E((f(x_1,\omega ,b)-y_1{)}^4)+\frac{1}{n^2}{E}^2((f(x_1,\omega ,b)-y_1{)}^2)\ast (n^2-n)-E^2((f(x_1,\omega ,b)-y_1{)}^2)\\ & =\frac{1}{n}E((f(x_1,\omega ,b)-y_1{)}^4)-\frac{1}{n}{E}^2((f(x_1,\omega ,b)-y_1{)}^2)\\ & =\frac{1}{n}D((f(x_1,\omega ,b)-y_1{)}^2)\end{array}$$

可以看出n次采样的平均值的期望与原来分布的期望是相同的，但是方差是原来分布的$\frac{1}{n}$，当我们采样次数趋于无穷时会有：
$$\begin{array}{rl}{Z}_{\infty }& =\underset{n\to \infty }{\lim }\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2\\ & =\underset{n\to \infty }{\lim }\frac{n_i}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2\\ & =\sum _{x_i}\sum _{y_i}(f(x_i,\omega ,b)-y_i{)}^{2}P(x_i,y_i)\end{array}$$

根据上面的分析，此时它的均值不变，方差为${\lim }_{n\to \infty }\frac{1}{n}D((f(x_1,\omega ,b)-y_1{)}^2)=0$。也就是说采样无穷多次以后，就不具有随机性了，从表达式上看就是当所有情况都考虑进内以后，就没有随机性了。就变成与随机变量无关的确定性变量了。

假设一个随机变量为$x\sim U(1,4)$，即$f(x)=\frac{1}{3}$，均值为：$\frac{5}{2}$，方差为：$\frac{3}{4}$，当我们采样三次$x_1,x_2,x_3$，其中每个变量均服从$x_i\sim U(1,4)$，考虑均值随机变量$Z=\frac{1}{3}(x_1+x_2+x_3)$，求他的期望为：
$${\int }_1^4{\int }_1^4{\int }_1^4\frac{1}{3}(x_1+x_2+x_3)(\frac{1}{3}{)}^{3}d{x}_{1}d{x}_{2}d{x}_3=\frac{5}{2}$$

他的方差为：
$$\begin{array}{rl}E[(Z-\frac{5}{2}{)}^2]& =E[(\frac{1}{3}(x_1+x_2+x_3)-\frac{5}{2}{)}^2]\\ & ={\int }_1^4{\int }_1^4{\int }_1^4(\frac{1}{3}(x_1+x_2+x_3)-\frac{5}{2}{)}^2\ast (\frac{1}{3}{)}^{3}d{x}_{1}d{x}_{2}d{x}_3\\ & =\frac{1}{4}\\ & =\frac{1}{n}D(x)=\frac{1}{3}\ast \frac{3}{4}\end{array}$$

这说明确实采样以后求平均的方差会比原分布的方差小，均值不变。
求均值就是把随机变量消掉，而求积分并不一定，必须要是带有均值意义的积分或求和才能把随机变量消掉。

回归问题

回归就是用函数去拟合给定的输入与输出。

在房价预测问题中，假设输入是房子的属性，输出是房子的价格。那么我们的估计误差就可以写为：$(f(x,\omega ,b)-y{)}^2$。当我们认为房子的属性$x$和价格$y$服从一个概率分布$P(x,y)$时，上述误差$(f(x,\omega ,b)-y{)}^2$就是一个随机变量。

根据前一节的理论分析，在任意给定的参数$\omega ,b$的条件下，这个随机变量$(f(x,\omega ,b)-y{)}^2$都会有相应的期望$E((f(x_1,\omega ,b)-y_1{)}^2)$和方差$D((f(x_1,\omega ,b)-y_1{)}^2)$；

并且随着采样次数的增多，也就是随着搜集到的房子属性和房子价格对的增多，随机变量$\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$的均值$E(\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2)$不变，方差$D(\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2)$会逐渐减小；

当采样次数无穷化以后，此时随机变量${\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$的均值$E({\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2)$不变，方差$D({\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2)$为零；

也就是这时这个随机变量${\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$的任意一次采样值就是随机变量${\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$与$(f(x,\omega ,b)-y{)}^2$本身的均值。

也就是说随机变量的均值等于随机变量采样无穷次后的平均值。
以上是从概率上考虑随机变量的均值与方差的变化趋势

回到回归问题本身的目标来说，回归的目的就是希望估计误差尽可能小，并且是针对所有的输入输出对估计误差都尽可能小，也就是：
$$\underset{\omega ,b}{\min }\sum _x\sum _y(f(x,\omega ,b)-y{)}^{2}P(x,y)=\underset{\omega ,b}{\min }E((f(x,\omega ,b)-y{)}^2)$$

上式可以看成随机变量$(f(x,\omega ,b)-y{)}^2$的均值的最小化，也可以看成抽样无穷次后的随机变量$Z_{\infty }={\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$的最小化；因此可以认为是希望估计误差随机变量$(f(x,\omega ,b)-y{)}^2$的均值尽可能小，也可以认为是希望无穷次抽样后的随机变量的值比较小，这两者从数学意义上是相等的。由于求出期望并不简单，但是进行抽样是比较简单的，所以我们的优化往往不是针对期望进行的，而是针对采样后的平均值进行。我们可以认为最优参数就是能够最小化无穷多次抽样后的随机变量${\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$的数值的参数。他跟最优化期望的参数是等价的。

所以我们可以采样无穷多次，然后求出对应的${\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$随机变量的数值，通过调整参数$\omega ,b$来最小化这个随机变量${\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$的值，这个参数就是最优的参数。

回归问题流程：采样无穷多次，调整参数，最优化参数。

分类问题

分类问题同样是寻找函数对给定的输入输出进行拟合。根据概率中的期望与均值理论，同样是需要通过对无穷多次采样的平均值进行优化而不是直接求出期望再优化。

softmax函数

softmax函数是用于多分类问题的，在我的设想中，可以用多个阶跃函数构成的向量在进行多分类问题，softmax函数与其他函数之间的关系是什么？
其实从结果上来说，softmax函数跟多个阶跃函数组成的向量最终训练结果应该是一致的。

随机梯度下降分析

给定上面的目标函数
$$\begin{array}{r}\underset{\omega ,b}{\min }\sum _x\sum _y(f(x,\omega ,b)-y{)}^{2}P(x,y)=\underset{\omega ,b}{\min }\underset{n\to \infty }{\lim }\frac{1}{n}\sum _{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2\end{array}$$

我们要通过调整参数$\omega ,b$来实现最小化${\lim }_{n\to \infty }\frac{1}{n}{\sum }_{i=1}^n(f(x_i,\omega ,b)-y_i{)}^2$的目的，显然在采样结果确定的情况下，就是通过求导实现的，而随机梯度则是在误差函数为累加形式或者期望形式时，可以通过取出某一项进行求导然后修正来实现最优化，这是为什么呢？

动态规划问题