机器学习要用到的基础知识

最新推荐文章于 2023-03-10 16:31:55 发布

zpainter

最新推荐文章于 2023-03-10 16:31:55 发布

阅读量682

点赞数

分类专栏： ML基础知识文章标签：柯西不等式勒贝格测度雅克比矩阵

ML基础知识专栏收录该内容

2 篇文章 0 订阅

订阅专栏

1.Cauchy–Schwarz inequality

The Cauchy–Schwarz inequality states that for all vectors $u$ and $v$ of an inner product space it is true that

$|\langle \mathbf {u} ,\mathbf {v} \rangle |^{2}\leq \langle \mathbf {u} ,\mathbf {u} \rangle \cdot \langle \mathbf {v} ,\mathbf {v} \rangle ,$

$\langle \cdot ,\cdot \rangle$ is the inner product.

Equivalently, by taking the square root of both sides, and referring to the norms of the vectors, the inequality is written as：

$|\langle \mathbf {u} ,\mathbf {v} \rangle |\leq \|\mathbf {u} \|\|\mathbf {v} \|.$

Moreover, the two sides are equal if and only if $\mathbf {u}$ and $\mathbf {v}$ are linearly dependent (meaning they are parallel: one of the vector's magnitudes is zero, or one is a scalar multiple of the other).

If $u_{1},\ldots ,u_{n}\in \mathbb {C}$ and $v_{1},\ldots ,v_{n}\in \mathbb {C}$ , and the inner product is the standard complex inner product, then the inequality may be restated more explicitly as follows (where the bar notation is used for complex conjugation):

$|u_{1}{\bar {v}}_{1}+\cdots +u_{n}{\bar {v}}_{n}|^{2}\leq (|u_{1}|^{2}+\cdots +|u_{n}|^{2})(|v_{1}|^{2}+\cdots +|v_{n}|^{2})$

or $\left|\sum _{i=1}^{n}u_{i}{\bar {v}}_{i}\right|^{2}\leq \sum _{j=1}^{n}|u_{j}|^{2}\sum _{k=1}^{n}|v_{k}|^{2}.$

2. 勒贝格测度（Lebesgue measure）

勒贝格测度是将测度分配给n维欧几里得空间子集的标准方法。对于n = 1，2或3时，它可以对长度，面积或体积进行标准度量。一般来说，它也称为n维体积，n-体积或简单体积。它可以在实际分析中使用，特别是在定义勒贝格积分时得到应用。勒贝格测度通常表示为dx。

3. Jacobian雅可比矩阵

在向量分析中，雅可比矩阵是函数的一阶偏导数以一定方式排列成的矩阵，其行列式称为雅可比行列式。在代数几何中，代数曲线的雅可比行列式表示雅可比簇：伴随该曲线的一个代数群，曲线可以嵌入其中。假设某函数从R^N映到R^M，其雅可比矩阵是从R^N到R^M的线性映射，其重要意义在于它表现了一个多变数向量函数的最佳线性逼近。因此，雅可比矩阵类似于单变数函数的导数。假设

是一个从n维欧氏空间映射到到m维欧氏空间的函数。这个函数由m个实函数组成：

这些函数的偏导数(如果存在)可以组成一个m行n列的矩阵，这个矩阵就是所谓的雅可比矩阵：

此矩阵用符号表示为：

，或者

这个矩阵的第 i行是由梯度函数的转置表示的。

例子：

zpainter

关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
机器学习要用到的基础知识

1.Cauchy–Schwarz inequalityThe Cauchy–Schwarz inequality states that for all vectors and of an inner product space it is true that is the inner product.Equivalently, by taking the square ...
复制链接

扫一扫

专栏目录