Numpy入门教程

Numpy是python语言中最基础和最强大的科学计算和数据处理的工具包，如数据分析工具pandas也是基于numpy构建的，机器学习包scikit-learn也大量使用了numpy方法。本文介绍了Numpy的$n$维数组在数据处理和分析的所有核心应用。

1. 如何构建numpy数组

构建numpy数组的方法很多，比较常用的方法是用np.array函数对列表进行转化。

# 通过列表创建一维数组
import numpy as np
list1 = [0,1,2,3,4]
arr1d = np.array(list1)
 
#打印数组和类型
print(type(arr1d))
arr1d

<type ‘numpy.ndarray’>
[0 1 2 3 4]

数组和列表最关键的区别是：

1. 数组是基于向量化操作的，列表不是，我们在实际项目中处理的数据一般是矩阵结构，对该数据以行向量或列向量的形式进行计算，向量计算是基于数组实现的，因此数组比列表的应用更广。

   函数可以应用到数组的每一项，列表不行。比如，不可以对列表的每一项数据都加2，这是错误的。

   list1 + 2  # 错误
   

   可以对数组的某一项数据都加2：

   # Add 2 to each element of arr1d
   arr1d + 2
   

   array([2, 3, 4, 5, 6])

2. 另一个区别是已经定义的numpy数组不可以增加数组大小，只能通过定义另一个数组来实现，但是列表可以增加大小。

numpy可以通过列表中的列表来构建二维数组。

# Create a 2d array from a list of lists
list2 = [[0,1,2], [3,4,5], [6,7,8]]
arr2d = np.array(list2)
arr2d

array([[0, 1, 2],
       [3, 4, 5],
       [6, 7, 8]])

也可以通过dtype参数指定数组的类型，一些最常用的numpy类型是：‘float’，‘int’，‘bool’，‘str’和’object’：

# Create a float 2d array
arr2d_f = np.array(list2, dtype='float')
arr2d_f

输出结果的小数点表示float类型：
array([[ 0., 1., 2.],
       [ 3., 4., 5.],
       [ 6., 7., 8.]])

也可以通过 astype方法(returns a copy of the array converted to the specified type)转换成不同的类型：

# 转换成‘int’类型
arr2d_f.astype('int')

array([[0, 1, 2],
       [3, 4, 5],
       [6, 7, 8]])

# 先转换‘int’类型，再转换‘str’类型
arr2d_f.astype('int').astype('str')

array([[‘0’, ‘1’, ‘2’],
       [‘3’, ‘4’, ‘5’],
       [‘6’, ‘7’, ‘8’]],
       dtype=‘U21’)

3. 另一个区别是numpy数组要求所有项是同一个类型，list没有这个限制。如果你想要一个数组包含不同类型，设置‘dtype’为’object’。

# 构建布尔类型数组
arr2d_b = np.array([1, 0, 10], dtype='bool')
arr2d_b

array([ True, False, True], dtype=bool)

# 构建包含数值和字符串的数组
arr1d_obj = np.array([1, 'a'], dtype='object')
arr1d_obj

array([1, ‘a’], dtype=object)

最终使用 tolist()函数使数组转化为列表：

# Convert an array back to a list
arr1d_obj.tolist()

[1, ‘a’]

• 总结数组和列表主要的区别：

  1. 数组支持向量化操作，列表不支持；
  2. 数组不能改变长度，列表可以；
  3. 数组的每一项都是同一类型，list可以有多种类型；
  4. 同样长度的数组所占的空间小于列表。

2. 如何观察数组属性的大小和形状(shape)

一维数组由列表构建，二维数组arr2d由列表的列表构建，二维数组有行和列，比如矩阵，三维数组由嵌入了两个列表的列表构建。

数组的属性包括：

• 数组的维度（ndim）
• 数组的形状（shape）
• 数组的类型（dtype）
• 数组的大小（size）
• 数组元素的表示（通过索引）

# 定义3行4列的二维数组
list2 = [[1, 2, 3, 4],[3, 4, 5, 6], [5, 6, 7, 8]]
arr2 = np.array(list2, dtype='float')
arr2

array([[ 1., 2., 3., 4.],
       [ 3., 4., 5., 6.],
       [ 5., 6., 7., 8.]])

# 形状（shape）
print('Shape: ', arr2.shape)
# 数组类型（dtype）
print('Datatype: ', arr2.dtype)
# 数组大小（size）
print('Size: ', arr2.size)
# 数组维度（ndim）
print('Num Dimensions: ', arr2.ndim)
# 取数组第3行3列元素
print('items of 3 line 3 column: ', c[2,2])

Shape: (3, 4)
Datatype: float64
Size: 12
Num Dimensions: 2
items of 3 line 3 column: 7

3. 如何从数组提取特定的项

数组的索引是从0开始计数的，与list类似。numpy数组通过方括号的参数以选择特定的元素。

# 选择矩阵的前两行两列
arr2[:2, :2]
list2[:2, :2]  # 错误

array([[ 1., 2.],
       [ 3., 4.]])

numpy数组支持布尔类型的索引，布尔型索引数组与过滤前（array-to-be-filtered）的数组大小相等，布尔型数组只包含Ture和False变量，Ture变量对应的数组索引位置保留了过滤前的值 。

arr2

array([[ 1., 2., 3., 4.],
       [ 3., 4., 5., 6.],
       [ 5., 6., 7., 8.]])

# 对数组每一个元素是否满足某一条件，然后获得布尔类型的输出
b = arr2 > 4
b

array([[False, False, False, False],
       [False, False, True, True],
       [ True, True, True, True]], dtype=bool)

# 取布尔型数组保留的原始数组的值
arr2[b]

array([ 5., 6., 5., 6., 7., 8.])

3.1 如何反转数组

# 反转数组的行
arr2[::-1, ]

array([[ 5., 6., 7., 8.],
       [ 3., 4., 5., 6.],
       [ 1., 2., 3., 4.]])

# Reverse the row and column positions
# 反转数组的行和列
arr2[::-1, ::-1]

array([[ 8., 7., 6., 5.],
       [ 6., 5., 4., 3.],
       [ 4., 3., 2., 1.]])

3.2 如何处理数组的缺失值(missing)和无穷大(infinite)值

缺失值可以用np.nan对象表示，np.inf表示无穷大值，下面用二维数组举例：

# 插入nan变量和inf变量
arr2[1,1] = np.nan  # not a number
arr2[1,2] = np.inf  # infinite
arr2

array([[ 1., 2., 3., 4.],
       [ 3., nan, inf, 6.],
       [ 5., 6., 7., 8.]])

# 用-1代替nan值和inf值
missing_bool = np.isnan(arr2) | np.isinf(arr2)
arr2[missing_bool] = -1  
arr2

array([[ 1., 2., 3., 4.],
       [ 3., -1., -1., 6.],
       [ 5., 6., 7., 8.]])

3.3 如何计算n维数组的平均值，最小值和最大值

# 平均值，最大值，最小值
print("Mean value is: ", arr2.mean())
print("Max value is: ", arr2.max())
print("Min value is: ", arr2.min())

Mean value is: 3.58333333333
Max value is: 8.0
Min value is: -1.0

如果要求数组的行或列的最小值，使用np.amin函数

# Row wise and column wise min
# 求数组行和列的最小值
# axis=0表示列，1表示行
print("Column wise minimum: ", np.amin(arr2, axis=0))
print("Row wise minimum: ", np.amin(arr2, axis=1))

Column wise minimum: [ 1. -1. -1. 4.]
Row wise minimum: [ 1. -1. 5.]

对数组的每个元素进行累加，得到一维数组，一维数组的大小与二维数组相同。

# 累加
np.cumsum(arr2)

array([ 1., 3., 6., 10., 13., 12., 11., 17., 22., 28., 35., 43.])

4. 从现有的数组定义新数组

如果使用赋值运算符从父数组定义新数组，新数组与父数组共占同一个内存空间，如果改变新数组的值，那么父数组也相应的改变。(这一点很重要)

为了让新数组与父数组相互独立，你需要使用copy（）函数。所有父数组都使用copy（）方法构建新数组。

# Assign portion of arr2 to arr2a. Doesn't really create a new array.
# 分配arr2数组给新数组arr2a，下面方法并没有定新数组
arr2a = arr2[:2,:2]  
arr2a[:1, :1] = 100  # arr2相应位置也改变了
arr2

array([[ 100., 2., 3., 4.],
       [ 3., -1., -1., 6.],
       [ 5., 6., 7., 8.]])

# 赋值arr2数组的一部分给新数组arr2b
arr2b = arr2[:2, :2].copy()
arr2b[:1, :1] = 101  # arr2没有改变
arr2

array([[ 100., 2., 3., 4.],
       [ 3., -1., -1., 6.],
       [ 5., 6., 7., 8.]])

5. 多维数组的重构(reshaping)和扁平(flattening)

重构（reshaping）是改变了数组项的排列，即改变了数组的形状，未改变数组的大小。

扁平（flattening）是将多维数组转化为一维数组。

# 3x4数组重构为4x3数组
arr2.reshape(4, 3)

array([[ 100., 2., 3.],
       [ 4., 3., -1.],
       [ -1., 6., 5.],
       [ 6., 7., 8.]])

5.1 flatten()和ravel()的区别

数组的扁平化有两种常用的方法，flatten()和ravel() 。ravel(Return a flattened array.)处理后的数组是父数组的引用，因此新数组的任何变化也会改变父数组，因其未用复制的方式构建数组，内存使用效率高，flatten(Return a copy of the array collapsed into one dimension.)通过复制的方式构建新数组。

# flatten方法
arr2.flatten()

array([ 100., 2., 3., 4., 3., -1., -1., 6., 5., 6., 7., 8.])

# flatten方法
b1 = arr2.flatten()  
b1[0] = 100  # 改变b1的值并未影响arr2
arr2

array([[ 100., 2., 3., 4.],
       [ 3., -1., -1., 6.],
       [ 5., 6., 7., 8.]])

# ravel方法
b2 = arr2.ravel()  
b2[0] = 101  # 改变b2值，相应的改变了arr2值
arr2

array([[ 101., 2., 3., 4.],
       [ 3., -1., -1., 6.],
       [ 5., 6., 7., 8.]])

6. 如何通过numpy生成序列数(sequences)，重复数(repetitions)和随机数(random)

np.arrange函数手动生成指定数目的序列数，与ndarray作用一样。

# 默认下限为0
print(np.arange(5))  
# 0 to 9，默认步数为1
print(np.arange(0, 10))  
# 递增步数2
print(np.arange(0, 10, 2))  
# 降序
print(np.arange(10, 0, -1))

[0 1 2 3 4]
[0 1 2 3 4 5 6 7 8 9]
[0 2 4 6 8]
[10 9 8 7 6 5 4 3 2 1]

上例是通过np.arrange设置初始位置和结束位置来生成序列数，如果我们设置数组的元素个数，那么可以自动计算数组的递增值。

如构建1到50的数组，数组有10个元素，使用np.linspace计算数组的递增值。

# 起始位置和结束位置分别为1和50
np.linspace(start=1, stop=50, num=10, dtype=int)

array([ 1, 6, 11, 17, 22, 28, 33, 39, 44, 50])

我们注意到上面例子的递增值并不相等，有5和6两个值，原因是计算递增值采用了四舍五入的算法（rounding）。与np.linspace类似，np.logspace以对数尺度的方式增长。

# 设置数组的精度为小数点后两位
np.set_printoptions(precision=2)  
 
# 起点为 10^1 and 终点为 10^50，数组元素个数10，以10为底数
np.logspace(start=1, stop=50, num=10, base=10) 

array([ 1.00e+01, 2.78e+06, 7.74e+11, 2.15e+17, 5.99e+22,
        1.67e+28, 4.64e+33, 1.29e+39, 3.59e+44, 1.00e+50])

初始化数组的元素全为1或全为0：

np.zeros([2,2])

array([[ 0., 0.],
       [ 0., 0.]])

np.ones([2,2])

array([[ 1., 1.],
       [ 1., 1.]])

7.1 如何生成随机数

random模块包含的函数可以生成任一数组形状的随机数和统计分布。

# 生成2行2列的[0,1)的随机数
print(np.random.rand(2,2))
# 生成均值为0方差为1的2行2列的正态分布值
print(np.random.randn(2,2))
# 生成[0,10)的2行2列的随机整数
print(np.random.randint(0, 10, size=[2,2]))
# 生成一个[0,1)的随机数
print(np.random.random())
# 生成[0,1)的2行2列的随机数
print(np.random.random(size=[2,2]))
# 从给定的列表等概率抽样10次
print(np.random.choice(['a', 'e', 'i', 'o', 'u'], size=10))  
# 从给定的列表和对应的概率分布抽样10次
print(np.random.choice(['a', 'e', 'i', 'o', 'u'], size=10, p=[0.3, .1, 0.1, 0.4, 0.1]))  # picks more o's

[[ 0.84 0.7 ]
 [ 0.52 0.8 ]]
[[-0.06 -1.55]
 [ 0.47 -0.04]]
[[4 0]
 [8 7]]
0.08737272424956832
[[ 0.45 0.78]
 [ 0.03 0.74]]
[‘i’ ‘a’ ‘e’ ‘e’ ‘a’ ‘u’ ‘o’ ‘e’ ‘i’ ‘u’]
[‘o’ ‘a’ ‘e’ ‘a’ ‘a’ ‘o’ ‘o’ ‘o’ ‘a’ ‘o’]

7.3 如何得到数组唯一(unique)的项和个数(counts)

np.unique函数去除数组中重复的元素，设置return_counts参数为True，得到数组每一项的个数。

# 定义范围为[0,10)，个数为10的随机整数数组
np.random.seed(100)
arr_rand = np.random.randint(0, 10, size=10)
print(arr_rand)

[8 8 3 7 7 0 4 2 5 2]

# 得到数组唯一的项和相应的个数
uniqs, counts = np.unique(arr_rand, return_counts=True)
print("Unique items : ", uniqs)
print("Counts       : ", counts)

Unique items : [0 2 3 4 5 7 8]
Counts : [1 2 1 1 1 2 2]