AI中的数学思想

AI所涉及的数学知识主要涉及三个方面：线性代数、微积分、概率论，下面我们就整个AI流程中所涉及的数学知识进行描述，度学习归根结底就是在学习如何拟合一个函数，这个函数将输入映射成输出，其本质就是数学建模问题。

假设空间：

假设空间，也叫做函数空间，如何选择函数，这需要一些先验知识，我们习惯上将房价预测划分为回归问题，因为输出值是一个连续的实数值；明天是否下雨，结果只有下或者不下两个离散值，这样的问题我们称为分类问题；对于这样的问题，我们很容易进行函数的选择，但对于复杂问题，例如图像模式识别，普通的回归就无法完成任务（在机器学习时代，这需要人工提取特征后将特征输入到机器学习算法），这就需要神经网络，他虽然是个黑盒，我们不知道里面发生了什么，但需要几个隐藏层，仍然需要人为凭借先验知识去设定，所谓的函数空间是指当网络模型固定，按照一定的概率分布去初始化网络参数，然后在训练过程中去优化函数空间，但有一种特殊情况，就是Dropout，类似于Bagging思想，Dropout的存在使得网络模型变得更加复杂，但这种复杂性有效防止了过拟合。

目标函数：

既然是拟合问题，那就少不了评价拟合效果的工具，这就是目标函数的作用，它用来衡量拟合函数的输出与真实标签间的差距，并且通过改变网络参数来不断减小差距，这就是数学中的优化问题，在数学中，函数的导数表示自变量变化时，因变量的变化率，理想情况下导数为0的点被称之为极值点，极值点处的参数就是我们要求的最终结果，这种理想函数我们称之