numpy 矩阵与向量相乘_NumPy和机器学习数据表示的可视化介绍

熟悉数据科学的人都很喜欢NumPy库,它是时下最流行的Python系数据科学的中流砥柱,是Python科学计算、数据分析以及AI 机器学习的基础组件。在最流行的三大数据处理栈R、Matlab和Python中,NumPy是最重要的组件之一,有很多Python系的数据处理系统都依赖NumPy作为其基础架构的基础部分,比如tensorflow、pandas、SciPy和scikit-learn等。

d8121a25213a7252d5702d28bad56248.png

NumPy极大地简化了向量和矩阵的操作和处理。本文中虫虫将一图像可视化方式介绍NumPy的主要方法,以及在ML数据模型中的数据表示,图文并茂的方式系统对大家的学习有所帮助。

数组

创建数组

数组的创建通常是通过使用`np.array()`,并将列表传递给它。如下图:

0a92386fc4d97e20a82800901f903274.png

在创建时候NumPy也提供了很多方法帮我们初始化数组,这些方法包括:ones(),zeros()和random.random()。其参数为要生成的元素个数:

a124f824cd91b8127bfc39ffede1cf0e.png

数组计算

做为例子我们首先创建两个数组data和one:

e18075145d16b781858c586593214960.png

最其做加法运算,其实很简单就是对应位置元素互相想加。

0967322035a633009b38ee42c306d373.png

NumPy在处理这些计算时候,简单就想正常数学计算一样,不像其他语言中那样复杂的处理方式(比如做计算符号重载)。从而可以让我们专注于数学计算而不是怎么用循环表示。更多计算:

c756b86c4b004e9840e279a7c14c28e0.png

实际中,也有数组和单个数字之间执行计算(也称为向量和标量之间的计算)。比如,我们的数组表示以英里为单位的距离,我们希望将其转换为公里数。我们可以简单使用data *1.6:

575b129fae7c42d6608a20774eef7e3f.png

NumPy对每个元素都会做了乘法计算。这个又叫做广播,一个非常有用的概念。

索引

我们可以通过各种方式列表切片方式来表示NumPy数组部分和对其索引:

15f54a3111489dfda5af7ac7fcdc1ee9.png

聚合计算

NumPy也支持各种聚合函数:

e37de75f9a20c46aa3a63e03759ff5ab.png

除了最小值,最大值和总和之外,还支持很多其他统计函数你,比如平均值mean,所有元素相乘的累乘prod,标准差std,及其他。

多维度

截止当前,我们所有例子都是在一个维度上处理向量。 NumPy强大之处的关键是它能够将所有方法都应用到任意数量的维度。

创建矩阵

我们可以给array函数传递如下python列表参数,NumPy就会创建一个矩阵:

np.array([[1,2],[3,4]])

f4f4820537eb2fd921730b952014307e.png

也可以使用上面提到的相同方法(ones(),zeros()和random.random()),只要我们给它们一个元组来表示正在创建的矩阵的维度:

63b0a9e48113db974bd9c4ba35c8f4a7.png

矩阵计算

如果两个矩阵的大小相同,我们可以使用算术运算符(+ - * /)来对矩阵计算。 NumPy将这些作为位置操作处理:

41157629a8fbf6287a946cd6f62161bc.png

只有当不同维度为1时(例如矩阵只有一列或一行),我们才能在不同大小的矩阵上进行这些算术运算,在这种情况下,NumPy将其广播规则用于该操作:

daab7ca72fde5a0fdd35c92a45345626.png

点计算

与算术相关的一个关键区别是使用点积的矩阵乘法。 NumPy为每个矩阵提供了一个dot()方法,我们可以用它来执行与其他矩阵的点积运算:

5fdf4e891027b4114edb11837fbb843b.png

这个图的底部添加了矩阵尺寸,以强调两个矩阵在它们彼此面对的一侧必须具有相同的尺寸。可以将此操作可视化为如下所示:

20e8eed46475bcad69f7de9f66c96c6a.png

矩阵索引

当我们操作矩阵时,索引和切片操作会变得更加有用:

4c5f08b8565a4fe95ad5d87f7da08cf0.png

矩阵聚合

我们可以像聚合数组一样聚合矩阵:

44832c980b06ec74555f265c58dfde27.png

我们不仅可以聚合矩阵中的所有值,还可以使用axis参数对行或列进行聚合:

3414d6ef46796921e6c1dd5973124f23.png

转置和重塑

处理矩阵时的一个共同需求是需要旋转矩阵。当我们需要采用两个矩阵的点积并​​需要对齐它们共享的维度时,通常就是这种情况。 NumPy数组有一个方便的属性叫做T来获得矩阵的转置:

ed8e44b3f6ac4327c72dacb20f7f9043.png

在更高级的用例中,可能需要切换某个矩阵的维度。在机器学习应用程序中通常会有这种情况,其中某个模型期望输入的某个维度与数据集不同。在这些情况下,NumPy的reshape()方法很有用。只需将矩阵所需的新尺寸传递给它即可,可以为维度传递-1,NumPy可以根据已有矩阵推断出正确的维度:

2569f7d8a3d72743cf9c7ff22ea7ad29.png

更多维度

NumPy可以完成我们在任何维度上提到的所有内容。其中心数据结构称为ndarray(N维数组)。

fb4ba1609c41a9ddcccc85f0ce57af9b.png

在很多时候,处理新维度只是在NumPy函数的参数中添加逗号:

db73f21f8ee283fdfd6ffb080fea30e3.png

实际用法——数据表示方法

最后来干货,我们来举一些NumPy能帮助你完成的有用示例包括公式和数据表示:

公式

实现适用于矩阵和向量的数学公式是考虑NumPy的关键用例。这就是NumPy是科学Python社区的宠儿主要原因。例如,考虑平均误差公式,它是监督机器学习模型处理回归问题的核心:

b41e90fe9b3136eb116ac83e30c915ae.png

在NumPy中实现它是轻而易举的:

f2d763363e18384618777ae30883b7dd.png

这样做的好处是,numpy并不会关心预测和标签是否包含一个或一千个值(只要它们的大小相同)。可以通过一个示例逐步执行该代码行中的四个操作:

7490f8f1d6a37fdc5a5321a34ac3379f.png

预测和标签向量都包含三个值。这意味着n的值为3。执行减法后,最终得到如下值:

f00fa6d86f07f589678f764f9357b97f.png

然后就可以对矢量中的值进行平方

f547cc3fd2569188b7245f75f28ee69c.png

最后:

4f2bd32d9ac8c99debf34d40ed430da3.png

数据表示

试想我们需要紧缩和构建模型所需的所有数据类型(电子表格,图像,音频......等)。其中很多都非常适合在n维数组中表示:

表格和电子表格

电子表格或值表是二维矩阵。电子表格中的每个工作表都可以是自己的变量。 Python中最受欢迎的抽象是pandas数据帧,它实际上使用NumPy并在其上构建。

d2175edeff10184075fa0198b8de6439.png

音频和时间序列

音频文件是一维样本数组。每个样本都是一个代表音频信号的一小部分的数字。 CD质量的音频每秒可能有44,100个样本,每个样本是-65535到65536之间的整数。这意味着如果你有一个10秒的CD质量的WAVE文件,你可以将它加载到长度为10 * 44,100的NumPy数组中= 441,000个样本。想要提取音频的第一秒?只需将文件加载到音频的NumPy数组中,然后获取音频[:44100]。

以下是一段音频文件:

60add4598e434b109e397264b8570495.png

时间序列数据也是如此(例如,股票价格随时间变化)。

图片

图像是大小(高x宽)像素的矩阵。

如果图像是黑白的(a.k.a.灰度),则每个像素可以用单个数字表示(通常在0(黑色)和255(白色)之间)。想要裁剪图像的左上角10 x 10像素部分?告诉NumPy通过image[:10,:10]。

下面一个图像文件的片段:

0673bb09cf68c3123d6b13f18ebe3489.png

如果图像是彩色的,则每个像素由三个数字表示:红色,绿色和蓝色各自的值。在这种情况下,我们需要第三维(因为每个单元格只能包含一个数字)。因此彩色图像由尺寸的ndarray表示:(高x宽x 3)。

59b8a1225a8e737219c0f210d24b54b3.png

自然语言

如果我们处理文本,数据就会有所不同。文本的数字表示需要一个构建词汇表的步骤(模型知道的所有唯一单词的清单)和嵌入步骤。让我们看看用古代用数字表示这个引用的步骤:

我们可以继续处理一个小数据集并使用它来构建一个词汇表(71,290个单词):

1ed962e3b0e02d4ab6c1b153ca2aa49c.png

然后可以将句子分成一系列标记(基于通用规则的单词或单词部分):

b7a9c78a41a7915b453b45f5288eba0b.png

然后我们用词汇表中的id替换每个单词:

d452a0e4af95f9831512196d21f01bca.png

这些ID仍然不能为模型提供太多信息价值。因此,在将一系列单词提供给模型之前,需要使用嵌入来替换标记/单词(比如:50维word2vec嵌入):

a0be77a90f4a902a766a4853e6d558c9.png

以看到此NumPy数组的维度为[embedding_dimension x sequence_length]。在实践中,这些将是另一种方式,但我以这种方式呈现它的视觉一致性。出于性能原因,深度学习模型倾向于保留批量大小的第一维(因为如果并行训练多个示例,则可以更快地训练模型)。这是一个明显的情况,reshape()变得非常有用。例如,像BERT这样的模型会期望其输入形状为:[batch_size,sequence_length,embedding_size]。

c9197fed0900e487448946841340d6be.png

现在这是一个数字卷,模型可以处理并执行有用的操作。其他行被留空了,但是他们会填充其他示例以供模型训练(或预测)。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值