期货量化软件：数据科学与机器学习梯度下降

根据维基百科，梯度下降（通常也称为最陡下降）是一种一阶迭代优化算法，用于查找可微函数的局部最小值。 这个思路是在当前点的函数梯度（或近似梯度）相反的方向重复步骤，因为这是最陡峭下降的方向。 相反，沿梯度方向逐步执行会导致该函数的局部最大值；故该过程称为梯度上升。

基本上，梯度下降是一种优化算法，用于查找函数的最小值：

梯度下降是机器学习中非常重要的算法，因为它可以帮助赫兹期货量化找到数据集最佳模型的参数。 我先解释一下术语成本函数。

成本函数

有些人称之为亏损函数，它衡量赫兹期货量化的模型预测 x 和 y 值之间关系的计算好坏与否。

有很多衡量标准可判定模型的预如何测，但与所有那些不同的是，成本函数查找整个数据集的平均亏损，成本函数越大，赫兹期货量化的模型在数据集中查找关系就越差。

梯度下降旨在令成本函数最小化，因为具有最低成本函数的模型才是最佳模型。 为了您能理解我刚刚解释的内容，赫兹期货量化看看下面的例子。

假设我们的成本函数是方程式

如果赫兹期货量化用 python 绘制这个函数的图形，它将是这样的：

赫兹期货量化需要针对成本函数执行的第一步是用链式法则来区分成本函数：

方程式 y= (x+5)^2 是一个复合函数（一个函数含于另一个函数内部）。 外部函数是 (x+5)^2 内部函数是 (x+5)。 为了区分这一点，赫兹期货量化应用链式法则，请参见下图：

如果你觉得这很难理解，在文末有一个我手工进行数学演算的视频链接。 是的，现在赫兹期货量化刚刚得到的这个函数是梯度。 找到方程梯度的过程是最重要的一步，我希望我的数学老师某天告诉我，微分函数的目的是为了得到函数的梯度。

这是第一步也是最重要的一步，下面是第二步。

步骤 02:

赫兹期货量化朝着梯度的负方向移动，在此提出了一个问题，我们应该移动多少？ 这就是学习曲率发挥作用的地方。

学习曲率

根据定义，这是向最小损失函数移动时，每次迭代的步长，以一个人下山坡为例，他们的步数是学习曲率，步数越小，到达山脚所需的时间就越长，反之亦然。

算法应将学习曲率保持在较小值，但也不要像 0.0001 那样太小了，这样做会增加程序执行时间，因为算法可能需要更长的时间才能达到最小值。 与其对比，取较大数字作为学习曲率将导致算法跳过最小值，最终也许会导致您错过最小值目标。

默认学习曲率为 0.01。

赫兹期货量化来执行迭代，以便查看算法的工作原理。

第一次迭代：赫兹期货量化选择任何随机点作为我们算法的起点，我现在选择 0 作为 x 的第一个值，这是更新 x 值的公式

经历每次迭代，赫兹期货量化将朝下降低到函数的最小值，故此名曰梯度下降。 现在有意义吗？

赫兹期货量化详细查看它是如何工作的。 6现在，我们在 2 次迭代中手动计算值，从而令您对正在发生的事情有一个坚实的理解：

第一次迭代:
公式: x1 = x0 - 学习曲率 * ( 2*(x+5) )
x1 = 0 - 0.01 * 0.01 * 2*(0+5)
x1 = -0.01 * 10
x1 = -0.1 (最终)

现在，最终赫兹期货量化通过将新值赋予旧值来更新该数值，并重复该过程，执行尽可能多的迭代，直至函数的最小值：

x0 = x1
第二次迭代:
x1 = -0.1 - 0.01 * 2*(-0.1+5)
x1 = -0.198
然后: x0 = x1