本博客记录的是基础的数学知识,整理后,方便查阅。
内容包括:数学分析、高等代数、常微分方程、其他数理知识
内容不是一蹴而就,自己在边学习边整理,希望能够帮助到大家。
欢迎转载,转载请注明出处:https://blog.csdn.net/qq_41709378/article/details/106639967
1 数学分析
2 高等代数
2.1 矩阵
2.1.1 实对称矩阵
【定义】
如果有n阶矩阵A,其矩阵的元素都为实数,且矩阵A的转置等于其本身
(
a
i
j
=
a
j
i
)
(a_{ij}=a_{ji})
(aij=aji)(i,j为元素的脚标),则称A为实对称矩阵。
【例1】
【主要性质】
(1)实对称矩阵A的不同特征值对应的特征向量是正交的。
(2)实对称矩阵A的特征值都是实数,特征向量都是实向量。
(3)n阶实对称矩阵A必可相似对角化,且相似对角阵上的元素即为矩阵本身特征值。
(4)若A具有k重特征值
λ
0
λ_0
λ0必有k个线性无关的特征向量,或者说秩
r
(
λ
0
E
−
A
)
r(λ_0E-A)
r(λ0E−A)至多为n-k,其中E为单位矩阵。
2.1.2 正定矩阵&半正定矩阵
1 正定矩阵:
【定义】
设M是n阶方阵,如果对任何非零向量z,都有
z
T
M
z
>
0
z^TMz> 0
zTMz>0,其中
z
T
z^T
zT表示z的转置,就称M为正定矩阵。
【例2】 实对称矩阵是否是正定矩阵?
【性质】
(1)正定矩阵的行列式恒为正;
(2)实对称矩阵A正定当且仅当A与单位矩阵合同;
(3)若A是正定矩阵,则A的逆矩阵也是正定矩阵;
(4)两个正定矩阵的和是正定矩阵;
(5)正实数与正定矩阵的乘积是正定矩阵。
2 半正定矩阵:
【定义】
设A是n阶方阵,如果对任何非零向量X,都有X’AX≥0,其中X’表示X的转置,就称A为半正定矩阵。
【性质】
(1)半正定矩阵的行列式是非负的。
(2)两个半正定矩阵的和是半正定的。
(3)非负实数与半正定矩阵的数乘矩阵是半正定的
3 两者比较:
根据正定矩阵和半正定矩阵的定义,我们也会发现:半正定矩阵包括了正定矩阵,与非负实数 和正实数之间的关系很像。
正定矩阵和半正定矩阵的直观解释:
3 概率论与数理统计
3.1 极大似然估计
极大似然估计思想:
4 其他数理知识
4.1 二次规划问题
二次规划的一般形式可以表示为:
其中G是Hessian矩阵,τ是有限指标集,c,x和 ,都是R中的向量。如果Hessian矩阵是半正定的,则我们说该式是一个凸二次规划,在这种情况下该问题的困难程度类似于线性规划。如果有至少一个向量满足约束并且在可行域有下界,则凸二次规划问题就有一个全局最小值。如果是正定的,则这类二次规划为严格的凸二次规划,那么全局最小值就是唯一的。如果是一个不定矩阵,则为非凸二次规划,这类二次规划更有挑战性,因为它们有多个平稳点和局部极小值点。
(1)二次规划问题的解法(拉格朗日乘子法)
用来求解线性优化问题、线性约束优化问题。
最终,求出了
x
x
x。
(2)二次规划问题的解法(有效集法)
用来求解非线性约束优化问题。
通过一个例子进行分析。
链接: 有效集法.