本文介绍了线性代数中的基本概念，包括向量、向量空间、矩阵及其操作。向量是线性代数的基础，涉及向量的模、范数和内积，以及线性相关与线性无关的概念。矩阵则讨论了线性映射、矩阵乘法、转置和特殊类型的矩阵，如对称矩阵和单位矩阵。这些知识是理解深度学习中模型和算法的数学基础。
1.1 向量
在线性代数中， 标量（Scalar） 是一个实数，而 向量 (Vector) 是指 n个实数组成的有序数组，称为 n维向量。如果没有特别说明，一个 n维向量一般表示列向量，即大小为 n × 1 的矩阵。行在前，列在后，n × 1 则表示n行1列的矩阵，也就是n维向量。
a = [ a 1 a 2 ⋮ a n ] \bf a = \left[ \begin{matrix} a_1 \\ a_2 \\ \vdots \\ a_n \\ \end{matrix} \right] a=⎣⎢⎢⎢⎡a1a2⋮an⎦⎥⎥⎥⎤
其中， a i a_i ai 称为向量 a 的第 i个分量，或第 i维。
为简化书写、方便排版起见，有时会以加上转置符号 T 的行向量（大小为
1 × n 的矩阵）表示列向量。
a = [ x 1 , x 2 , ⋯   , x n ] T \bf a = \left[ \begin{matrix} x_1 , & x_2, & \cdots ,& x_n \\ \end{matrix} \right]^T a=[x1,x2,⋯,xn]T
向量符号一般用黑体小写字母 a , b , c \bf a, b, c a,b,c，或小写希腊字母 α, β, γ 等来表示。
向量空间
向量空间（vector space），也称线性空间（linear space），是指由向量组成的集合，并满足以下两个条件：
- 向量加法 +：向量空间 V 中的两个向量 a \bf a a 和 b \bf b b，它们的和 a + b \bf {a+b} a+b也属于空间 V；
- 标量乘法 ·：向量空间 V 中的任一向量 a \bf a a和任一标量 c，它们的乘积 c · a \bf a a也属于空间 V。
欧氏空间: 一个常用的线性空间是欧氏空间（欧几里德空间）（Euclidean space）。一个欧氏空间表示通常为 R n \mathbb{R^n} Rn，其中n为空间维度（dimension）。欧氏空间中向量的加法和标量乘法定义为：
[ a 1 , a 2 , ⋯   , a n ] + [ b 1 , b 2 , ⋯   , b n ] = [ a 1 + b 1 , a 2 + b 2 , ⋯   , a n + b n ] \left[ \begin{matrix} a_1 , & a_2, & \cdots ,& a_n \\ \end{matrix} \right]+ \left[ \begin{matrix} b_1 , & b_2, & \cdots ,& b_n \\ \end{matrix} \right]= \left[ \begin{matrix} a_1 +b_1, & a_2+b_2, & \cdots ,& a_n +b_n \\ \end{matrix} \right] [a1,a2,⋯,an]+[b1,b2,⋯,bn]=[a1+b1,a2+b2,⋯,an+bn]
c [ a 1 , a 2 , ⋯   , a n ] = [ c a 1 , c a 2 , ⋯   , c a n ] c\left[ \begin{matrix} a_1 , & a_2, & \cdots ,& a_n \\ \end{matrix} \right]= \left[ \begin{matrix} ca_1 , & ca_2, & \cdots ,& ca_n \\ \end{matrix} \right] c[a1,a2,⋯,an]=[ca1,ca2,⋯,can]
其中 a, b∈ R \mathbb{R} R,c为一个标量。
线性子空间 向量空间V 的线性子空间U 是V 的一个子集，并且满足向量空间的条件（向量加法和标量乘法）。
线性无关 线性空间 V 中的一组向量 { v 1 , v 2 , ⋅ ⋅ ⋅ , v n } \{ v_1, v_2, · · · , v_n\} {
v1,v2,⋅⋅⋅,vn}，如果对任意的一组标量 λ 1 , λ 2 , ⋅ ⋅ ⋅ , λ n λ_1, λ_2, · · · , λ_n λ1,λ2,⋅
最低0.47元/天 解锁文章
扫一扫
1088
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
