一切问题都可以转化为数学问题。——笛卡尔
世界上任何一门学科,如果没有发展到能与数学紧密联系在一起的程度,就说明该学科还未发展成熟。 ——马克思
是的,无论是哪种优化设计问题,其本质都可以归结为多元非线性函数的极小值问题。所以仍然会涉及到数学中的一些概念,在这里仅做一些简单的介绍。
向量和矩阵的范数
- 向量的范数
我们可以将范数理解为对向量的一种度量,即向量的“长度”。如我们常用的向量的模,
我们常用的向量范数有:
1范数:
2范数:
无穷范数:
2.矩阵的范数
n阶方阵A的范数为
常用的矩阵范数有:
1范数(最大列范数):所有列向量的范数中最大的那一个
2范数:
无穷范数(最大行范数):所有行向量的范数中最大的那一个
方向导数和梯度
1.方向导数
方向导数是函数在某一点沿某一方向的变化率,通俗的说就是函数在某一方向的导数,它表征了该函数在这一点处沿某一方向变化的快慢。某二元函数沿d方向的方向导数定义为: