数学建模笔记

数学建模步骤:

问题分析->模型假设->模型建立及求解->模型分析及检验->问题解答

数学建模举例

初等数学模型:名额公平分配

优化模型:生产资源调度

图论模型:社交网络分析

微分方程模型:生物进化计算

优化建模

矩阵完整化:Netfix问题/松弛问题[核范数]

核范数（Nuclear Norm），也称为核稀疏范数、核秩范数或矩阵1范数，是矩阵的一种范数度量方式。它是矩阵的奇异值（singular value）之和。

给定一个 m × n 的矩阵 A，它的核范数表示为 ||A||_*（也可表示为 ||A||_nuc）。

核范数的定义如下：

||A||_* = Σᵢ σᵢ

其中，σᵢ 是矩阵 A 的第 i 个奇异值，Σᵢ 表示对所有奇异值求和。

核范数的计算方式是将矩阵的奇异值按照从大到小的顺序排列，然后将它们相加。它衡量了矩阵的秩或奇异值的大小。

核范数在矩阵的低秩近似、矩阵完整化、矩阵压缩、矩阵稀疏表示等问题中具有重要应用。通过最小化矩阵的核范数，可以得到一个接近原始矩阵的低秩近似矩阵，从而实现降维和去噪。此外，核范数还用于凸优化问题的正则化，以促使解具有低秩结构。

需要注意的是，核范数并不是矩阵的常用范数，它不满足三角不等式和正定性质。但在特定

奇异值分解（Singular Value Decomposition，简称SVD）是一种基础的线性代数分解技术，适用于实数或复数矩阵。它将一个矩阵分解为三个矩阵的乘积，具有重要的数学和应用价值。

给定一个 m × n 的矩阵 A，SVD 将其分解为以下形式：

A = UΣV^*

其中，U 是一个 m × m 的酉矩阵（正交矩阵），Σ 是一个 m × n 的矩形对角矩阵，V^* 是 n × n 的酉矩阵的共轭转置（或简称为厄米矩阵）。

对角矩阵 Σ 的对角线上的元素称为奇异值（singular values），并按照从大到小的顺序排列。U 和 V^* 的列向量是 A × A^* 和 A^* × A 的特征向量，分别对应于 A × A^* 和 A^* × A 的非零特征值。

SVD 分解的具体步骤如下：

1. 计算 A × A^* 和 A^* × A 的特征值和特征向量。
2. 构造矩阵 U 和 V^*，其中 U 的列向量是 A × A^* 的特征向量，V^* 的列向量是 A^* × A 的特征向量。
3. 根据奇异值的大小，对对角矩阵 Σ 的元素进行排序。

SVD 的应用十分广泛。它可以用于数据降维、图像压缩、信号处理、矩阵近似、特征提取等领域。在推荐系统中，SVD 可用于矩阵完整化和协同过滤技术，帮助预测用户对未观看项目的喜好，进行个性化推荐。

需要注意的是，SVD 分解在处理大规模矩阵时可能面临计算复杂度和存储空间的挑战。因此，对于大规模数据集，通常使用基于SVD的变种方法，如随机SVD（Randomized SVD）、截断SVD（Truncated SVD）等，以加速计算和降低存储需求。这些方法通过近似计算，仅保留前几个奇异值和对应的奇异向量，提供了对原始矩阵的有效近似分解。

的应用中，核范数的使用能够带来有意义的结果。\

给定一个 n × n 的方阵 A，非零向量 v 称为 A 的特征向量，如果满足以下关系式：

A v = λ v

其中，λ 是一个实数或复数，称为特征向量对应的特征值。换句话说，特征向量经过矩阵 A 的线性变换后，等于特征值乘以特征向量本身。

计算特征值和特征向量的步骤如下：

1. 对于矩阵 A，求解方程 det(A - λI) = 0，其中 I 是 n × n 的单位矩阵，λ 是未知的特征值。
2. 对于每个解 λ，求解方程 (A - λI) v = 0，其中 v 是特征值 λ 对应的特征向量。

特征值和特征向量的重要性在于它们提供了矩阵的一些重要性质和信息：

1. 特征向量表示了矩阵变换中的不变方向，特征值表示了这个不变方向上的缩放因子。
2. 特征向量是线性无关的，它们张成了矩阵所在的向量空间。
3. 特征值可以提供有关矩阵的性质和行为的信息，如对称矩阵的特征值都是实数，正定矩阵的特征值都大于零等。

特征值和特征向量在许多领域中都有广泛的应用，包括线性代数、物理学、工程学和数据分析等。通过求解特征值和特征向量，我们可以了解矩阵的几何和代数特征，从而在许多应用中进行矩阵分析、矩阵对角化、矩阵近似等操作。

在矩阵完整化（Matrix Completion）问题中，我们的目标是根据部分已知元素的观测，推断出整个矩阵的缺失部分。松弛问题是一种常见的用于矩阵完整化的方法之一。

在松弛问题中，我们将矩阵完整化问题转化为一个最优化问题，通过最小化目标函数来推断未知的矩阵元素。该问题的目标是找到一个与观测数据一致且具有某种结构的矩阵。

具体而言，在矩阵完整化中的松弛问题中，我们通常采用低秩矩阵假设。这是基于矩阵的低秩性质，即矩阵可以用较低秩的近似来表示。因此，我们寻找一个低秩矩阵，使得它的观测元素与给定的观测数据尽可能接近，并且未观测的元素尽可能接近于矩阵的低秩结构。

解决松弛问题的常用方法是使用凸优化技术，例如使用核范数作为目标函数的正则化项。通过最小化目标函数，可以得到一个满足观测数据并具有低秩结构的矩阵。

松弛问题在推荐系统、图像处理、信号处理等领域中都有广泛的应用。它可以帮助我们填补缺失的数据、恢复损坏的图像、降噪信号等。然而，由于松弛问题通常是一个非凸优化问题，因此求解过程可能需要使用迭代方法或近似算法来获得最优解。

低秩矩阵是指具有较小秩（Rank）的矩阵。矩阵的秩是指矩阵的行向量或列向量的最大线性无关组的维数，也可以看作是矩阵中非零特征值的个数。

对于一个 m × n 的矩阵，如果它的秩 r 较小（r << min(m, n)），那么它可以被近似表示为一个秩为 r 的低秩矩阵。

低秩矩阵的特点是它们具有一种结构化的性质，可以用较少的参数或变量来描述。这种结构化的性质在数据分析、图像处理、信号处理等领域中具有重要的应用。

在矩阵完整化、矩阵压缩和降维等问题中，低秩矩阵的概念被广泛应用。例如，在矩阵完整化问题中，我们通过将一个矩阵的缺失部分填充为低秩矩阵来恢复完整的矩阵。在图像处理中，低秩矩阵可以用来表示图像中的纹理或背景部分。

为了近似表示一个矩阵为低秩矩阵，常用的方法是奇异值分解（Singular Value Decomposition，SVD）。SVD 将矩阵分解为三个矩阵的乘积：A = UΣV^T，其中 U 和 V 是正交矩阵，Σ 是对角矩阵。通过截断对角矩阵 Σ，只保留其中的前 r 个奇异值，可以得到一个秩为 r 的低秩矩阵的近似。

低秩矩阵的使用可以帮助我们减少数据的维度、提取数据的主要特征、降低噪声的影响等。它在数据分析和机器学习等领域中被广泛应用，用于数据压缩、特征提取、矩阵近似等任务。

常用优化方法简介:

·单纯形法

·梯度法

·交替方向法

·增广拉格朗日函数法

·随机梯度法