numba 是一种 JIT 编译器,可以将 python 函数编译为机器代码,经过 numba编译的 python 代码(仅限数组运算),其运行速度可以接近 C 或 FORTRAN 语言。
因此在嵌套 for 循环引入 numba 来进行编译时会加速执行以减少运行时间提高模
型效率。
在数据表嵌套查询时,两个数据表在不使用 numba 编译的情况下进行嵌套循环
运行需要十分钟左右,而使用 numba 编译情况下运行耗费是秒级
以下为在Python中引入numba库加速循环查询实例。
重点在于注解以及循环语句的变化
@njit
def func_data(jol_pro_data, data):
'''
对于每一个用户所提交的每一题的记录,查找此题对应的难度分数,并且计算用户的得分
:param jol_pro_data:难度分数表
:param data:用户提交记录表
:return: data_score: 在 data 中新增一列题目难度分数
'''
for i in prange(data.shape[0]):
data_index = -1
for j in prange(jol_pro_data.shape[0]):
if data[i][0] == jol_pro_data[j][0]:
data_index = j
break
if data_index == -1:
data[i, 0] = 0
else:
data[i, 0] = jol_pro_data[data_index][1]
return data
这种嵌套查询实际上也可以使用pandas中的merge等函数来实现,类似与数据库中的多表联合查询。类似使用方法如下。on为merge基于的数据表的键,how为联合查询方法,与数据库类似
user_left_score.merge(new_data,on='user_id',how='left').fillna(0)