关于Numba的线程实现的说明

最新推荐文章于 2024-06-30 16:52:36 发布

wujianming_110117

最新推荐文章于 2024-06-30 16:52:36 发布

阅读量545

点赞数

分类专栏：系统软件智能推理 GPU，NPU，XPU，DPU，MPU

吴建明

本文链接：https://blog.csdn.net/wujianing_110117/article/details/111753815

版权

本文详细介绍了Numba的线程实现，包括Numba线程层的三个实现：TBB、OpenMP和工作队列。重点讨论了parallel_for函数、线程掩码的概念及其在并行计算中的应用。线程掩码允许用户以编程方式更改执行工作的线程数，其设计考虑了用户友好性和安全性。此外，还提到了嵌套并行、Python线程独立调用、操作系统fork调用以及线程ID的相关信息。

摘要由CSDN通过智能技术生成

关于Numba的线程实现的说明
由Numbaparallel目标执行的工作由Numba线程层执行。实际上，“线程层”是Numba内置库，可以执行所需的并发执行。在撰写本文时，有三个可用的线程层，每个线程层都通过不同的较低级别的host线程库实现。上thread线程和对于给定的应用/系统的thread线程的适当选择的更多信息可在发现 threading layer documentatio。
以下各节要关注的相关信息是，执行并行线程库中的parallel_for函数。此功能的工作是协调和执行并行任务。
本文引用的相关源文件是
• numba/np/ufunc/tbbpool.cpp
• numba/np/ufunc/omppool.cpp
• numba/np/ufunc/workqueue.c
这些文件分别包含TBB，OpenMP和工作队列线程池实现。每个函数都包含函数 set_num_threads()，get_num_threads()和和get_thread_id()，以及在各自的调度程序中用于线程屏蔽的相关逻辑。请注意，基本线程局部变量逻辑在这些文件中都是重复的，并且不在它们之间共享。
• numba/np/ufunc/parallel.py
该文件包含了Python和JIT兼容的封装器 set_num_threads()，get_num_threads()和get_thread_id()，以及代码加载上述库到Python和启动线程池。
• numba/parfors/parfor_lowering.py
该文件包含用于为并行后端生成代码的主要逻辑。在生成调度程序代码的代码中访问该线程掩码，并将其传递给相关的后端调度程序功能。
线程屏蔽
作为其设计的一部分，Numba绝不会在numba.np.ufunc.parallel._launch_threads() 运行首次并行执行时，最初启动的线程之