独家 | 线性代数：每个数据科学家的必知概念（上）

作者：Benedict Neo
翻译：陈之炎
校对：ZRX

本文约2500字，建议阅读8分钟
本文将探讨上述线性代数概念、视觉解释和代码示例。

你对线性代数有足够的了解吗？

线性代数是所有数据科学和机器学习任务的基石， 它是将理论模型转化为实际解决方案的语言， 它体现了能够利用算法从数据中学习的准则。

xkcd

线性代数可用于：

1. 数据表示：用一种结构化的方式来组织和操作数据，将复杂数据集表示为矩阵

2. 降维：利用PCA线性代数技术减少变量数量，以提高模型效率而不失重要信息

3. 优化：梯度下降，作为机器学习的核心引擎，使用线性代数找到函数的最小值。

4. 特征工程：利用线性变换和矩阵操作从现有数据中创建新特征

5. 相似性度量：将数据嵌入并存储为向量，在当前推荐系统和AI聊天机器人中使用。

6. 其他！

本文将探讨上述线性代数概念、视觉解释和代码示例。 让我们立即开始！

代码→ Deepnote 笔记本

本文（上篇）目录

向量

• 单位向量

向量操作

• 向量相加

• 标量相乘

• 点积

向量空间

• 零空间（核）

• 张成空间

• 基

• 线性独立

  ‍

本文（下篇）目录‍

矩阵

• 矩阵作为函数

• 线性变换

• 逆矩阵

• 奇异矩阵

• 单位矩阵

• 对角矩阵 

• 正交矩阵

• 矩阵乘法

• 迹

• 决定值 

• 秩

• 特征向量和特征值

向量

图片由作者提供

这是线性代数的基本构建块。通常有三种方式来考量向量。

第一种是物理学视角：向量是指向空间中的箭头， 由长度和方向定义。平面上的向量是二维的，生活空间中的向量是三维的。

第二种是计算机科学视角：向量是有序的数字列表，列表的长度决定了维度。

第三种是数学家的视角：向量可以是任何东西，只要两个向量可以相加并且可以被数字乘（即标量乘法）。

Deepnote 截图

单位向量

单位向量是幅度为1的向量，通常用它来表示一个向量的方向，而无需考虑其大小。

向量操作

向量相加

两个向量的加法构成一个新的向量，逐分量相加。

标量相乘

标量相乘是一个向量乘以一个标量（一个数字）， 结果是一个方向与原向量相同（如果标量是负数则相反）的向量， 其大小由标量的绝对值进行缩放。

点积

它是两个向量的欧几里得大小的乘积和它们之间夹角的余弦， 反映了向量的长度和它们的方向关系。

点积公式

直观地说，可以将点积公式想象成将一个向量的定向增长应用到另一个向量上， 或者“一个向量给另一个向量提供了多少动量/能量？”。结果是使得原向量变得更强（正向，负向或0）

如果两个向量的点积为0，则说明这两个向量是正交的。

可以用一个有趣的类比做进一步解释：

假设红色向量是速度，蓝色向量是助推垫的方向，点积是获得的助推量，助推力数值越大，意味着能获得更强的动力。

使用方程式来表示，|a| 是来速，|b| 是最大助推，获得的助推百分比是 cos(θ)， 总体助推为 |a| |b| cos(θ)。

进一步解释

向量空间

向量（或线性）空间是任何可以相互做加法和乘法（称为标量）的向量集合。

满足一系列公理的向量V 称为向量空间。

零空间（核）

零空间是一组向量的集合，当它们与矩阵相乘时，结果为零向量。

将它表示为方程 Ax = 0 的解，其中 A 是给定的矩阵。

假设一个二维空间中有两个向量，可以将矩阵的零空间可视化为一个子空间， 当与矩阵相乘时，向量将折叠到原点（零向量）。

张成空间

给定一对向量v 和 w 的线性组合av + bw构成的所有可能向量的集合，其中 a 和 b 是实数。大多数向量对经过线性组合之后，可以到达二维向量平面上的任意点。

3blue1brown 关于张成空间的视频

当两个向量恰好排成一行时，它被限制在通过原点的单条线上。

张成空间的概念是基的概念的基础。

基

基是一组线性独立的向量，它们组成整个向量空间，向量空间中的每个向量都可以表示为基向量的线性组合。 将它们想象为空间中所有其他向量的构建块。 将单个向量想象为箭头，对于一组向量集，将其想象为点，基向量对可以张成整个二维平面。

线性独立

如果集合中的向量不能用其他向量的线性组合表示（例如，x 和 y 的线性组合将是任何形式的 ax + by，其中 a 和 b 是常数），则一组向量是线性独立的。

资源

Hackers 通道 

• 程序员必学计算线性代数

• 应用机器学习的线性代数入门

可视化

• 图形线性代数-一种新的LA方法

• 线性代数的本质3BluelBrown-惊人的动画，可视化的概念

• 矢量化

• 洞察数学

论文/课程/教科书

• 深度学习所需的矩阵演算

• 数据分析、信号处理和机器中的矩阵方法  |麻省理工学院开放式课程

• 线性代数全答对

• 4页线性代数.Pdf

保持联络！

务必关注 bitgrit 数据科学出版物以保持更新！想和其他数据科学家讨论数据科学和人工智能的最新发展吗？加入我们的discord服务器！关注 Bitgrit 以获取有关研讨会和即将到来的比赛的更新！

作者简介：

本博由 Benedict Neo 撰写 ，bitgrit 数据科学出版物的编辑，40K 关注， Python ∩ 数据科学 ∩ AI 

原文标题：

Linear Algebra Concepts Every Data Scientist Should Know

原文链接：

https://medium.com/bitgrit-data-science-publication/linear-algebra-concepts-every-data-scientist-should-know-18b00bd453dd

编辑：黄继彦

译者简介

陈之炎，北京交通大学通信与控制工程专业毕业，获得工学硕士学位，历任长城计算机软件与系统公司工程师，大唐微电子公司工程师，现任北京吾译超群科技有限公司技术支持。目前从事智能化翻译教学系统的运营和维护，在人工智能深度学习和自然语言处理（NLP）方面积累有一定的经验。业余时间喜爱翻译创作，翻译作品主要有：IEC-ISO 7816、伊拉克石油工程项目、新财税主义宣言等等，其中中译英作品“新财税主义宣言”在GLOBAL TIMES正式发表。能够利用业余时间加入到THU 数据派平台的翻译志愿者小组，希望能和大家一起交流分享，共同进步

翻译组招募信息

工作内容：需要一颗细致的心，将选取好的外文文章翻译成流畅的中文。如果你是数据科学/统计学/计算机类的留学生，或在海外从事相关工作，或对自己外语水平有信心的朋友欢迎加入翻译小组。

你能得到：定期的翻译培训提高志愿者的翻译水平，提高对于数据科学前沿的认知，海外的朋友可以和国内技术应用发展保持联系，THU数据派产学研的背景为志愿者带来好的发展机遇。

其他福利：来自于名企的数据科学工作者，北大清华以及海外等名校学生他们都将成为你在翻译小组的伙伴。

点击文末“阅读原文”加入数据派团队~

转载须知

如需转载，请在开篇显著位置注明作者和出处（转自：数据派ID：DatapiTHU），并在文章结尾放置数据派醒目二维码。有原创标识文章，请发送【文章名称-待授权公众号名称及ID】至联系邮箱，申请白名单授权并按要求编辑。

发布后请将链接反馈至联系邮箱（见下方）。未经许可的转载以及改编者，我们将依法追究其法律责任。

点击“阅读原文”拥抱组织