Numpy多维数组的内存设计与实现原理

1、内存设计与实现原理

ndarray的内存结构

类ndarray的实例本质上由一个连续的一维内存段和一个索引方案组合而成。这种将所有数据存放在一个连续的一维内存段的存储方式，实际与C语言中的多维数组存储方式一致。但Numpy索引的灵活设计，使得ndarray对象可适应于任何跨步索引方案，以下对ndarray对象以行作为主要存储顺序的内存设计进行说明。

Numpy在创建数组或建立数组视图时，将数组的信息记录在不同属性，如shape属性指定各维度的元素的数量，dtype属性指定元素类型及其解释方式，strides属性指定各维度的跨度，itemsize属性指定单个元素占用字节数。

图1 ndarray对象在内存中的存储与索引

索引的解析

对于$N$维的数组$\mathsf{a}\mathsf{r}\mathsf{r}\mathsf{a}\mathsf{y}$，将各维度的跨度存放在$\mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}$列表中，则第$k+1$维的跨度
$$\mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[k]=\{\begin{array}{ll}\mathsf{i}\mathsf{t}\mathsf{e}\mathsf{m}\mathsf{s}\mathsf{i}\mathsf{z}\mathsf{e},& k=N-1\\ \mathsf{i}\mathsf{t}\mathsf{e}\mathsf{m}\mathsf{s}\mathsf{i}\mathsf{z}\mathsf{e}\times {\prod }_{j=k+1}^{N-1}\mathsf{s}\mathsf{h}\mathsf{a}\mathsf{p}\mathsf{e}[j],& k=0,\cdots ,N-2\end{array}$$

令数组$\mathsf{a}\mathsf{r}\mathsf{r}\mathsf{a}\mathsf{y}$的首元素地址为$\&\mathsf{a}\mathsf{r}\mathsf{r}\mathsf{a}\mathsf{y}$，则数组中坐标为$(i_0,i_1,\cdots ,i_{N-1})$的元素的地址
$$\&\mathsf{a}\mathsf{r}\mathsf{r}\mathsf{a}\mathsf{y}[i_0][i_1]\cdots [i_{N-1}]=\&\mathsf{a}\mathsf{r}\mathsf{r}\mathsf{a}\mathsf{y}+\sum _{k=0}^{N-1}{i}_k\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[k]$$

利用以上公式计算出给定坐标对应的地址，即$\&\mathsf{a}\mathsf{r}\mathsf{r}\mathsf{a}\mathsf{y}[i_0][i_1]\cdots [i_{N-1}]$，然后即可得到$\mathsf{a}\mathsf{r}\mathsf{r}\mathsf{a}\mathsf{y}[i_0][i_1]\cdots [i_{N-1}]$的值。

实例

对于数据类型为int32（占4字节）的二维整型数组
$$\mathbf{b}=\left(\begin{array}{cccc}0& 1& 2& 3\\ 4& 5& 6& 7\\ 8& 9& 10& 11\\ 12& 13& 14& 15\end{array}\right)$$

其形状$\mathsf{s}\mathsf{h}\mathsf{a}\mathsf{p}\mathsf{e}=(4,4)$，$\mathsf{i}\mathsf{t}\mathsf{e}\mathsf{m}\mathsf{s}\mathsf{i}\mathsf{z}\mathsf{e}=4$，因此不难计算出跨度列表$\mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}=[16,4]$。

若以$b[2][1]$的索引方式访问元素$9$，实际底层是将引用地址解析为
$$\&b[2][1]=\&b+2\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[0]+1\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[1]=\&b+36$$

显然，地址$\&b+36$存储的值为目标元素$9$，即完成了索引的解析。

2、切片索引的视图原理

切片索引的解析

对于二维数组$b$，使用以下起始值及步长对其进行切片
$$a=b[\mathsf{b}\mathsf{e}\mathsf{g}\mathsf{i}{\mathsf{n}}_0:\mathsf{e}\mathsf{n}{\mathsf{d}}_0:\mathsf{s}\mathsf{t}\mathsf{e}{\mathsf{p}}_0,\mathsf{b}\mathsf{e}\mathsf{g}\mathsf{i}{\mathsf{n}}_1:\mathsf{e}\mathsf{n}{\mathsf{d}}_1:\mathsf{s}\mathsf{t}\mathsf{e}{\mathsf{p}}_1]$$

易知，结果数组$a$的首地址
$$\&a=\&b[\mathsf{b}\mathsf{e}\mathsf{g}\mathsf{i}{\mathsf{n}}_0,\mathsf{b}\mathsf{e}\mathsf{g}\mathsf{i}{\mathsf{n}}_1]=\&b+\mathsf{b}\mathsf{e}\mathsf{g}\mathsf{i}{\mathsf{n}}_0\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[0]+\mathsf{b}\mathsf{e}\mathsf{g}\mathsf{i}{\mathsf{n}}_1\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[1]$$

基于各维度的切片步长，更新切片索引结果数组$a$的跨度列表
$$\mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}{\mathsf{s}}^{\prime }=\mathsf{s}\mathsf{t}\mathsf{e}\mathsf{p}\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}=[\mathsf{s}\mathsf{t}\mathsf{e}{\mathsf{p}}_0,\mathsf{s}\mathsf{t}\mathsf{e}{\mathsf{p}}_1]\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}$$

此时，利用结果数组$a$的起始地址$\&a$以及新的跨度列表$\mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}{\mathsf{s}}^{\prime }$，使用索引$a[i][j]$的形式依然可以访问到目标元素。

切片索引要求每一维度具有固定的切片步长，因此我们仅需要创建一个原始数组的视图，并根据起始位置以及各维度的切片步长，修改视图的起始位置以及各维度的跨度，即可访问到结果数组中的目标元素。因此，切片索引不需要复制原始数据。由于整数数组索引步数的随机性，不能通过更改索引方案的方案访问原数组。因此，整数数组索引返回的是原始数组的副本。

实例

对于数组$b$，执行切片$a=b[::3,1::2]$，得到红色标记位置元素
$$\mathbf{b}=\left(\begin{array}{cccc}0& 1& 2& 3\\ 4& 5& 6& 7\\ 8& 9& 10& 11\\ 12& 13& 14& 15\end{array}\right),\mathbf{a}=\left(\begin{array}{cc}1& 3\\ 13& 15\end{array}\right)$$

原数组$b$的跨度列表$\mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}=[16,4]$，结果数组$a$的首地址$\&a=\&b+4$，结果数组$a$的跨度列表$\mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}{\mathsf{s}}^{\prime }=[48,8]$。

通过索引$a[1,1]$的方式访问元素15，实际底层将引用地址解析为
$$\&a[1][1]=\&a+1\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}{\mathsf{s}}^{\prime }[0]+1\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}{\mathsf{s}}^{\prime }[1]=\&a+56=\&b+60$$

此外
$$\&b[3][3]=\&b+3\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[0]+3\times \mathsf{s}\mathsf{t}\mathsf{r}\mathsf{i}\mathsf{d}\mathsf{e}\mathsf{s}[1]=\&b+60$$

显然，使用切片索引仅通过更改索引方案，即可访问到原始数据。