Pandas 01-预备知识

Pandas 01-预备知识

一、Python基础

1. 列表推导式与条件赋值

在生成一个数字序列的时候,在Python中可以如下写出:

L = []
def my_func(x):
    return 2*x
for i in range(5):
    L.append(my_func(i))
L
[0, 2, 4, 6, 8]

事实上可以利用列表推导式进行写法上的简化:[* for i in *]。其中,第一个*为映射函数,其输入为后面i指代的内容,第二个*表示迭代的对象。

[my_func(i) for i in range(5)]
[0, 2, 4, 6, 8]

列表表达式还支持多层嵌套,如下面的例子中第一个for为外层循环,第二个为内层循环:

[f'{m}_{n}' for m in ['a', 'b'] for n in ['c', 'd']]
['a_c', 'a_d', 'b_c', 'b_d']

除了列表推导式,另一个实用的语法糖是条件赋值,其形式为value = a if condition else b

value = 'cat' if 2>1 else 'dog'
value
'cat'

等价于如下的写法:

a, b = 'cat', 'dog'
condition = 2 > 1 # 此时为True
if condition:
    value = a
else:
    value = b
value
'cat'

同样适用于自增运算 , 函数中return :

def my_func():
    return 'cat' if 2>1 else 'dog'
my_func()
'cat'

下面举一个例子,截断列表中超过5的元素:

[i if i <= 5 else 5 for i in range(8)]
[0, 1, 2, 3, 4, 5, 5, 5]

区别于筛选 :

[i for i in range(8) if i <= 5]
[0, 1, 2, 3, 4, 5]

2. 匿名函数与map方法

有一些函数的定义具有清晰简单的映射关系,例如上面的my_func函数,这时候可以用匿名函数的方法简洁地表示:

my_func = lambda x: 2*x
my_func(3)
6
multi_para_func = lambda a, b: a + b
multi_para_func(1, 2) 
3

但上面的用法其实违背了“匿名”的含义,事实上它往往在无需多处调用的场合进行使用,例如上面列表推导式中的例子,用户不关心函数的名字,只关心这种映射的关系:

[(lambda x: 2*x)(i) for i in range(5)]
[0, 2, 4, 6, 8]

对于上述的这种列表推导式的匿名函数映射,Python中提供了map函数来完成,它返回的是一个map对象,需要通过list*转为列表:

[*map(lambda x: 2*x, range(5))]
[0, 2, 4, 6, 8]

对于多个输入值的函数映射,可以通过追加迭代对象实现:

[*map(lambda x, y: f'{x}_{y}', range(5), 'abcde')]
['0_a', '1_b', '2_c', '3_d', '4_e']

3. zip对象与enumerate方法

zip函数能够把多个可迭代对象打包成一个元组构成的可迭代对象,它返回了一个zip对象,通过tuple, list*运算符可以得到相应的打包结果:

S1, S2, S3 = 'abc', 'def', 'hij'
[*zip(S1, S2, S3)]
[('a', 'd', 'h'), ('b', 'e', 'i'), ('c', 'f', 'j')]
(*zip(S1, S2, S3),)#注意元组中只有一个元素时要加一个逗号
(('a', 'd', 'h'), ('b', 'e', 'i'), ('c', 'f', 'j'))

往往会在循环迭代的时候使用到zip函数:

for i, j, k in zip(S1, S2, S3):
     print(i, j, k)
a d h
b e i
c f j

enumerate是一种特殊的打包,它可以在迭代时绑定迭代元素的遍历序号:

S = 'abcd'
for index, value in enumerate(S):
     print(index, value)
0 a
1 b
2 c
3 d

zip对象也能够简单地实现这个功能:

for index, value in zip(range(len(S)), S):
     print(index, value)
0 a
1 b
2 c
3 d

当需要对两个列表建立字典映射时,可以利用zip对象:

dict(zip(S1, S2))
{'a': 'd', 'b': 'e', 'c': 'f'}

zip函数可以打包多个可迭代对象,那么再次使用zip就可以进行解压操作 , 相当于二维矩阵的转置 , 从不同维度上进行拆分:

zipped = [*zip(S1, S2, S3)]
zipped
[('a', 'd', 'h'), ('b', 'e', 'i'), ('c', 'f', 'j')]
[*zip(*zipped)] # 三个元组分别对应原来的列表
[('a', 'b', 'c'), ('d', 'e', 'f'), ('h', 'i', 'j')]

二、Numpy基础

1. np数组的构造

最一般的方法是通过array来构造:

import numpy as np
np.array([1,2,3])
array([1, 2, 3])

下面讨论一些特殊数组的生成方式:

【a】等差序列:np.linspace, np.arange

np.linspace(1,5,11) # 起始、终止(包含)、样本个数
array([1. , 1.4, 1.8, 2.2, 2.6, 3. , 3.4, 3.8, 4.2, 4.6, 5. ])
np.arange(1,5,2) # 起始、终止(不包含)、步长
array([1, 3])

【b】特殊矩阵:zeros,ones, eye, full

np.zeros((2,3)) # 传入元组表示各维度大小
array([[0., 0., 0.],
       [0., 0., 0.]])
np.ones((2,3)) #同上
array([[1., 1., 1.],
       [1., 1., 1.]])
np.eye(3) # 3*3的单位矩阵
array([[1., 0., 0.],
       [0., 1., 0.],
       [0., 0., 1.]])
np.eye(3, k=1) # 偏移主对角线1个单位的伪单位矩阵
array([[0., 1., 0.],
       [0., 0., 1.],
       [0., 0., 0.]])
np.full((2,3), 10) # 元组传入大小,10表示填充数值
array([[10, 10, 10],
       [10, 10, 10]])
np.full((2,3), [1,2,3]) # 通过传入列表填充每列的值
array([[1, 2, 3],
       [1, 2, 3]])

【c】随机矩阵:np.random

最常用的随机生成函数为rand, randn, randint, choice,它们分别表示0-1均匀分布的随机数组、标准正态的随机数组、随机整数组和随机列表抽样:

np.random.rand(3) # 生成服从0-1均匀分布的三个随机数
array([0.12796023, 0.20101236, 0.05113542])
np.random.rand(3, 3) # 注意这里传入的不是元组,每个维度大小分开输入
array([[0.59497979, 0.91167943, 0.53302091],
       [0.83614981, 0.07174718, 0.21021552],
       [0.20275205, 0.77665739, 0.22778929]])

对于服从区间ab上的均匀分布可以如下生成:

a, b = 5, 15
(b - a) * np.random.rand(3) + a
array([ 8.90430755, 11.43832761,  9.30478168])

randn生成了N(0,1)的标准正态分布:

np.random.randn(3)
array([-1.25074555,  1.00077025,  1.62865093])
np.random.randn(2, 2)
array([[-0.47013102,  0.39629332],
       [ 0.39446586,  1.51617479]])

对于服从方差为 σ 2 \sigma^2 σ2均值为 μ \mu μ的一元正态分布可以如下生成:

sigma, mu = 2.5, 3
mu + np.random.randn(3) * sigma
array([7.54749438, 5.06158705, 4.26345629])

randint可以指定生成随机整数的最小值最大值和维度大小:

low, high, size = 5, 15, (2,2)
np.random.randint(low, high, size)
array([[ 8,  9],
       [ 7, 12]])

choice可以从给定的列表中,以一定概率和方式抽取结果,当不指定概率时为均匀采样,默认抽取方式为有放回抽样:

my_list = ['a', 'b', 'c', 'd']
np.random.choice(my_list, 3, replace=False, p=[0.1, 0.7, 0.1 ,0.1])
array(['c', 'b', 'a'], dtype='<U1')
np.random.choice(my_list, (3,3))
array([['d', 'd', 'a'],
       ['a', 'c', 'b'],
       ['a', 'a', 'b']], dtype='<U1')

当返回的元素个数与原列表相同时,等价于使用permutation函数,即打乱原列表:

np.random.permutation(my_list)
array(['d', 'a', 'c', 'b'], dtype='<U1')

区别于shuffle函数 , 在原数据上打乱 :

np.random.shuffle(my_list)
my_list
['d', 'c', 'b', 'a']

最后,需要提到的是随机种子,它能够固定随机数的输出结果:

np.random.seed(666)
np.random.rand()
0.7004371218578347
np.random.seed(666)
np.random.rand()
0.7004371218578347

2. np数组的变形与合并

【a】转置:T

np.zeros((2,3)).T
array([[0., 0.],
       [0., 0.],
       [0., 0.]])

【b】合并操作:r_, c_

对于二维数组而言,r_c_分别表示上下合并和左右合并:

np.r_[np.zeros((2,3)),np.zeros((2,3))]
array([[0., 0., 0.],
       [0., 0., 0.],
       [0., 0., 0.],
       [0., 0., 0.]])
np.c_[np.zeros((2,3)),np.zeros((2,3))]
array([[0., 0., 0., 0., 0., 0.],
       [0., 0., 0., 0., 0., 0.]])

一维数组和二维数组进行合并时,应当把其视作列向量,在长度匹配的情况下只能够使用左右合并的c_操作:

try:
     np.r_[np.array([0,0]),np.zeros((2,1))]
except Exception as e:
     Err_Msg = e
Err_Msg
ValueError('all the input arrays must have same number of dimensions')
np.r_[np.array([0,0]),np.zeros(2)]
array([0., 0., 0., 0.])
np.c_[np.array([0,0]),np.zeros((2,3))]
array([[0., 0., 0., 0.],
       [0., 0., 0., 0.]])

【c】维度变换:reshape

reshape能够帮助用户把原数组按照新的维度重新排列。在使用时有两种模式,分别为C模式和F模式,分别以逐行和逐列的顺序进行填充读取。

target = np.arange(8).reshape(2,4)
target
array([[0, 1, 2, 3],
       [4, 5, 6, 7]])
target.reshape((4,2), order='C') # 按照行读取和填充
array([[0, 1],
       [2, 3],
       [4, 5],
       [6, 7]])
target.reshape((4,2), order='F') # 按照列读取和填充
array([[0, 2],
       [4, 6],
       [1, 3],
       [5, 7]])

特别地,由于被调用数组的大小是确定的,reshape允许有一个维度存在空缺,此时只需填充-1即可:

target.reshape((4,-1))
array([[0, 1],
       [2, 3],
       [4, 5],
       [6, 7]])

下面将长度为n的1维向量升为n*1形2维矩阵的操作是经常使用的:

target = np.ones(3)
target
array([1., 1., 1.])
target.reshape(-1,1)
array([[1.],
       [1.],
       [1.]])

另一种用法将任意n维数组展平为1维 , 等价于flatten :

target = np.ones((2,3))
target
array([[1., 1., 1.],
       [1., 1., 1.]])
target.reshape(-1) 
array([1., 1., 1., 1., 1., 1.])
target.flatten() 
array([1., 1., 1., 1., 1., 1.])

3. np数组的切片与索引

数组的切片模式支持使用slice类型的start:end:step切片,还可以直接传入列表指定某个维度的索引进行切片:

target = np.arange(9).reshape(3,3)
target
array([[0, 1, 2],
       [3, 4, 5],
       [6, 7, 8]])
target[:-1, [0,2]]
array([[0, 2],
       [3, 5]])

此外,还可以利用np.ix_在对应的维度上使用布尔索引,但此时不能使用slice切片:

target[np.ix_([True, False, True], [True, False, True])]
array([[0, 2],
       [6, 8]])
target[np.ix_([1,2], [True, False, True])]
array([[3, 5],
       [6, 8]])

当数组维度为1维时,可以直接进行布尔索引,而无需np.ix_

new = target.reshape(-1)
new[new%2==0]
array([0, 2, 4, 6, 8])

4. 常用函数

为了简单起见,这里假设下述函数输入的数组都是一维的。

【a】where

where是一种条件函数,可以指定满足条件与不满足条件位置对应的填充值:

a = np.array([-1,1,-1,0])
np.where(a>0, a, 5) # 对应位置为True时填充a对应元素,否则填充5
array([5, 1, 5, 5])

【b】nonzero, argmax, argmin

这三个函数返回的都是索引,nonzero返回非零数的索引,argmax, argmin分别返回最大和最小数的索引:

a = np.array([-2,-5,0,1,3,-1])
np.nonzero(a)
(array([0, 1, 3, 4, 5], dtype=int64),)
a.argmax()
4
a.argmin()
1

【c】any, all

any指当序列至少 存在一个 True或非零元素时返回True,否则返回False

all指当序列元素 全为 True或非零元素时返回True,否则返回False

a = np.array([0,1])
a.any()
True
 a.all()
False

【d】cumprod, cumsum, diff

cumprod, cumsum分别表示累乘和累加函数,返回同长度的数组,diff表示和前一个元素做差,由于第一个元素为缺失值,因此在默认参数情况下,返回长度是原数组减1

a = np.array([1,2,3])
a.cumprod()
array([1, 2, 6], dtype=int32)
a.cumsum()
array([1, 3, 6], dtype=int32)
np.diff(a)
array([1, 1])

【e】 统计函数

常用的统计函数包括max, min, mean, median, std, var, sum, quantile,其中分位数计算是全局方法,因此不能通过array.quantile的方法调用:

target = np.arange(5)
target
array([0, 1, 2, 3, 4])
target.std()
1.4142135623730951
np.quantile(target, 0.75) # 0.75分位数
3.0

但是对于含有缺失值的数组,它们返回的结果也是缺失值,如果需要略过缺失值,必须使用nan*类型的函数,上述的几个统计函数都有对应的nan*函数。

target = np.array([1, 2, np.nan])
target
array([ 1.,  2., nan])
target.max()
nan
np.nanmax(target)
2.0
np.nanquantile(target, 0.25)
1.25

对于协方差和相关系数分别可以利用cov, corrcoef如下计算:

target1 = np.array([1,3,5,9])
target2 = np.array([1,5,3,-9])
np.cov(target1, target2)
array([[ 11.66666667, -16.66666667],
       [-16.66666667,  38.66666667]])
np.corrcoef(target1, target2)
array([[ 1.        , -0.78470603],
       [-0.78470603,  1.        ]])

最后,需要说明二维Numpy数组中统计函数的axis参数,它能够进行某一个维度下的统计特征计算,当axis=0时结果为列的统计指标,当axis=1时结果为行的统计指标:

target = np.arange(1,10).reshape(3,-1)
target
array([[1, 2, 3],
       [4, 5, 6],
       [7, 8, 9]])
target.sum(0)
array([12, 15, 18])
target.sum(1)
array([ 6, 15, 24])

5. 广播机制

广播机制用于处理两个不同维度数组之间的操作,这里只讨论不超过两维的数组广播机制。

【a】标量和数组的操作

当一个标量和数组进行运算时,标量会自动把大小扩充为数组大小,之后进行逐元素操作:

res = 3 * np.ones((2,2)) + 1
res
array([[4., 4.],
       [4., 4.]])
res = 1 / res
res
array([[0.25, 0.25],
       [0.25, 0.25]])

【b】二维数组之间的操作

当两个数组维度完全一致时,使用对应元素的操作,否则会报错,除非其中的某个数组的维度是 m × 1 m×1 m×1或者 1 × n 1×n 1×n,那么会扩充其具有 1 1 1的维度为另一个数组对应维度的大小。例如, 1 × 2 1×2 1×2数组和 3 × 2 3×2 3×2数组做逐元素运算时会把第一个数组扩充为 3 × 2 3×2 3×2,扩充时的对应数值进行赋值。但是,需要注意的是,如果第一个数组的维度是 1 × 3 1×3 1×3,那么由于在第二维上的大小不匹配且不为 1 1 1,此时报错。

res = np.ones((3,2))
res
array([[1., 1.],
       [1., 1.],
       [1., 1.]])
res * np.array([[2,3]]) # 扩充第一维度为3
array([[2., 3.],
       [2., 3.],
       [2., 3.]])
res * np.array([[2],[3],[4]]) # 扩充第二维度为2
array([[2., 2.],
       [3., 3.],
       [4., 4.]])
res * np.array([[2]]) # 等价于两次扩充
array([[2., 2.],
       [2., 2.],
       [2., 2.]])

【c】一维数组与二维数组的操作

当一维数组 A k A_k Ak与二维数组 B m , n B_{m,n} Bm,n操作时,等价于把一维数组视作 A 1 , k A_{1,k} A1,k的二维数组,使用的广播法则与【b】中一致,当 k ! = n k!=n k!=n k , n k,n k,n都不是 1 1 1时报错。

np.ones(3) + np.ones((2,3))
array([[2., 2., 2.],
       [2., 2., 2.]])
np.ones(3) + np.ones((2,1))
array([[2., 2., 2.],
       [2., 2., 2.]])
np.ones(1) + np.ones((2,3))
array([[2., 2., 2.],
       [2., 2., 2.]])

6. 向量与矩阵的计算

【a】向量内积:dot

a ⋅ b = ∑ i a i b i \rm \mathbf{a}\cdot\mathbf{b} = \sum_ia_ib_i ab=iaibi

a = np.array([1,2,3])
b = np.array([1,3,5])
a.dot(b)
22

【b】向量范数和矩阵范数:np.linalg.norm

在矩阵范数的计算中,最重要的是ord参数,可选值如下:

ordnorm for matricesnorm for vectors
NoneFrobenius norm2-norm
‘fro’Frobenius norm/
‘nuc’nuclear norm/
infmax(sum(abs(x), axis=1))max(abs(x))
-infmin(sum(abs(x), axis=1))min(abs(x))
0/sum(x != 0)
1max(sum(abs(x), axis=0))as below
-1min(sum(abs(x), axis=0))as below
22-norm (largest sing. value)as below
-2smallest singular valueas below
other/sum(abs(x)ord)(1./ord)
martix_target =  np.arange(4).reshape(-1,2)
martix_target
array([[0, 1],
       [2, 3]])
np.linalg.norm(martix_target, 'fro') #矩阵frobenius范数
3.7416573867739413
np.linalg.norm(martix_target, np.inf) #矩阵无穷范数,行范数
5.0
np.linalg.norm(martix_target, 2) #矩阵2范数
3.702459173643833
vector_target =  np.arange(4)
vector_target
array([0, 1, 2, 3])
np.linalg.norm(vector_target, np.inf) #向量无穷范数,最大绝对值
3.0
np.linalg.norm(vector_target, 2) #向量2范数,欧氏距离
3.7416573867739413
np.linalg.norm(vector_target, 3) #向量p范数,p取3
3.3019272488946263

【c】矩阵乘法:@

[ A m × p B p × n ] i j = ∑ k = 1 p A i k B k j \rm [\mathbf{A}_{m\times p}\mathbf{B}_{p\times n}]_{ij} = \sum_{k=1}^p\mathbf{A}_{ik}\mathbf{B}_{kj} [Am×pBp×n]ij=k=1pAikBkj

a = np.arange(4).reshape(-1,2)
a
array([[0, 1],
       [2, 3]])
b = np.arange(-4,0).reshape(-1,2)
b
array([[-4, -3],
       [-2, -1]])
a@b
array([[ -2,  -1],
       [-14,  -9]])

三、练习

Ex1:利用列表推导式写矩阵乘法

一般的矩阵乘法根据公式,可以由三重循环写出,请将其改写为列表推导式的形式。

M1 = np.random.rand(2,3)
M2 = np.random.rand(3,4)
res = np.empty((M1.shape[0],M2.shape[1]))
for i in range(M1.shape[0]):
    for j in range(M2.shape[1]):
        item = 0
        for k in range(M1.shape[1]):
            item += M1[i][k] * M2[k][j]
        res[i][j] = item
((M1@M2 - res) < 1e-15).all() # 排除数值误差
True
My solution :
  • 将三重循环由内向外一层一层剥 , 最内层形成一个推导式求和后看作一个整体 , 作为下一层嵌套的映射函数形成两层推导式 , 再将其看作一个整体作为最外层循环的映射函数
res = np.array([[sum([M1[i][k]*M2[k][j] for k in range(M1.shape[1])])for j in range(M2.shape[1])]for i in range(M1.shape[0])])
((M1@M2 - res) < 1e-15).all()
True

Ex2:更新矩阵

设矩阵 A m × n A_{m×n} Am×n ,现在对 A A A 中的每一个元素进行更新生成矩阵 B B B ,更新方法是 B i j = A i j ∑ k = 1 n 1 A i k B_{ij}=A_{ij}\sum_{k=1}^n\frac{1}{A_{ik}} Bij=Aijk=1nAik1 ,例如下面的矩阵为 A A A ,则 B 2 , 2 = 5 × ( 1 4 + 1 5 + 1 6 ) = 37 12 B_{2,2}=5\times(\frac{1}{4}+\frac{1}{5}+\frac{1}{6})=\frac{37}{12} B2,2=5×(41+51+61)=1237 ,请利用 Numpy 高效实现。
A = [ 1 2 3 4 5 6 7 8 9 ] A=\begin{bmatrix} 1 & 2 &3\\4&5&6\\7&8&9 \end{bmatrix} A=147258369

My solution :
  • 由更新公式可知对输入矩阵A中的每一个元素乘以该元素所在的行中每个元素的倒数和
  • 先求每行元素倒数和 , 常量1/A经广播后所有元素变为其倒数 , 按axis=1求和
  • 求和后为长度为3的向量 , 需转置后按列方向广播
def update_matrix(A):
    return (1/A).sum(1).reshape(-1,1)*A
A = np.arange(9).reshape(3,3) + 1
update_matrix(A)
array([[1.83333333, 3.66666667, 5.5       ],
       [2.46666667, 3.08333333, 3.7       ],
       [2.65277778, 3.03174603, 3.41071429]])

Ex3:卡方统计量

设矩阵 A m × n A_{m\times n} Am×n,记 B i j = ( ∑ i = 1 m A i j ) × ( ∑ j = 1 n A i j ) ∑ i = 1 m ∑ i = 1 n A i j B_{ij} = \frac{(\sum_{i=1}^mA_{ij})\times (\sum_{j=1}^nA_{ij})}{\sum_{i=1}^m\sum_{i=1}^nA_{ij}} Bij=i=1mi=1nAij(i=1mAij)×(j=1nAij),定义卡方值如下:
χ 2 = ∑ i = 1 m ∑ j = 1 n ( A i j − B i j ) 2 B i j \chi^2 = \sum_{i=1}^m\sum_{j=1}^n\frac{(A_{ij}-B_{ij})^2}{B_{ij}} χ2=i=1mj=1nBij(AijBij)2
请利用Numpy对给定的矩阵 A A A计算 χ 2 \chi^2 χ2

np.random.seed(0)
A = np.random.randint(10, 20, (8, 5))
My solution :
  • 先求出 B i j B_{ij} Bij , 分子分别对A矩阵按列和按行求和,得到m*11*n两个一维矩阵再相乘 , 可以利用广播直接相乘 , 也可以用@矩阵乘法 , 但要注意顺序 , 分母直接用sumA求和
  • 此时BA应为同维矩阵 , 代入 χ 2 \chi^2 χ2公式 , 对应元素相减再平方,除以B , 最终求和
def chi_2(A):
    B = A.sum(1).reshape(-1,1)@A.sum(0).reshape(1,-1)/A.sum()
    return ((A-B)**2/B).sum()
chi_2(A)
11.842696601945802

Ex4:改进矩阵计算的性能

Z Z Z m × n m×n m×n的矩阵, B B B U U U分别是 m × p m×p m×p p × n p×n p×n的矩阵, B i B_i Bi B B B的第 i i i行, U j U_j Uj U U U的第 j j j列,下面定义 R = ∑ i = 1 m ∑ j = 1 n ∥ B i − U j ∥ 2 2 Z i j \displaystyle R=\sum_{i=1}^m\sum_{j=1}^n\|B_i-U_j\|_2^2Z_{ij} R=i=1mj=1nBiUj22Zij,其中 ∥ a ∥ 2 2 \|\mathbf{a}\|_2^2 a22表示向量 a a a的分量平方和 ∑ i a i 2 \sum_i a_i^2 iai2

现有某人根据如下给定的样例数据计算 R R R的值,请充分利用Numpy中的函数,基于此问题改进这段代码的性能。

np.random.seed(0)
m, n, p = 100, 80, 50
B = np.random.randint(0, 2, (m, p))
U = np.random.randint(0, 2, (p, n))
Z = np.random.randint(0, 2, (m, n))
def solution(B=B, U=U, Z=Z):
    L_res = []
    for i in range(m):
        for j in range(n):
            norm_value = ((B[i]-U[:,j])**2).sum()
            L_res.append(norm_value*Z[i][j])
    return sum(L_res)
solution(B, U, Z)
100566
My solution :
  • 拆解原式 , 可以先求出 ∥ B i − U j ∥ 2 2 \|\mathbf{B_i-U_j}\|_2^2 BiUj22

  • 由于Bm*p的 , Up*n的 , 所以 B i B_i Bi1*p的行向量 , U j U_j Ujp*1的列向量 , 因此 B i − U j B_i-U_j BiUjp阶方阵 , 对这个方阵的分向量求平方和 ∑ p ( B i − U j ) p 2 \sum_p (B_i-U_j)_p^2 p(BiUj)p2

  • 若直接求需要双重循环遍历m*n大小的矩阵中每个位置的方阵平方和 , 脱离了numpy高效运算性能

  • 转换求法将上式展开 ∑ q = 1 p ∑ r = 1 p [ ( B i ) q − ( U j ) r ] 2 = ∑ q = 1 p ( B i 2 ) q + ∑ r = 1 p ( U j 2 ) r − 2 ∑ q = 1 p ∑ r = 1 p ( B i ) q ( U j ) r = ∥ B i ∥ 2 2 + ∥ U j ∥ 2 2 − 2 B i × U j \displaystyle\sum_{q=1}^p\sum_{r=1}^p[(B_i)_q-(U_j)_r]^2\\ = \sum_{q=1}^p(B_i^2)_q+\sum_{r=1}^p(U_j^2)_r-2\sum_{q=1}^p\sum_{r=1}^p(B_i)_q(U_j)_r\\ = \|B_i\|_2^2+\|U_j\|_2^2-2B_i×U_j q=1pr=1p[(Bi)q(Uj)r]2=q=1p(Bi2)q+r=1p(Uj2)r2q=1pr=1p(Bi)q(Uj)r=Bi22+Uj222Bi×Uj

  • 分别求出 ∥ B i ∥ 2 2 \|B_i\|_2^2 Bi22 ∥ U j ∥ 2 2 \|U_j\|_2^2 Uj22 , 得到m*11*n两个一维矩阵再广播求和为m*n的矩阵

  • 上述结果与2倍B@U相减再乘以Z即得到R再求和

def improved_solution(B,U,Z):
    return (((B**2).sum(1).reshape(-1,1)+(U**2).sum(0).reshape(1,-1)-2*B@U)*Z).sum()
improved_solution(B,U,Z)
100566

对比性能 :

%timeit -n 30 solution(B, U, Z)
49.1 ms ± 2.3 ms per loop (mean ± std. dev. of 7 runs, 30 loops each)
%timeit -n 30 improved_solution(B,U,Z)
733 µs ± 65.6 µs per loop (mean ± std. dev. of 7 runs, 30 loops each)

Ex5:连续整数的最大长度

输入一个整数的Numpy数组,返回其中递增连续整数子数组的最大长度,正向是指递增方向。例如,输入[1,2,5,6,7],[5,6,7]为具有最大长度的连续整数子数组,因此输出3;输入[3,2,1,2,3,4,6],[1,2,3,4]为具有最大长度的连续整数子数组,因此输出4。请充分利用Numpy的内置函数完成。(提示:考虑使用nonzero, diff函数)

My solution :
  • 找突破口 , 连续整数相差必为1 , 用diff函数得出相邻元素之差
  • 将差减1 , 用nonzero判断不为零的一定不连续 , 返回不为零的索引
  • 再次使用diff函数得出连续整数的长度 , 但由于两次diff无法得到原数组两端的连续长度 , 仅需在输入数组时为两端添加np.inf即可统计到两端的长度
  • 使用max求出最大值即最大长度
def max_con_int_len(arr):
    return np.diff(np.nonzero(np.diff(np.r_[np.inf,arr,np.inf])-1)).max()
arr = [1,2,5,6,7]
max_con_int_len(arr)
3
arr = [1,2,3,4,6,1,2,3]
max_con_int_len(arr)
4
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值