python 并行计算加速_使用 Dask 在 Python 中进行并行计算

import numpy

import dask

from dask import array as darray

arr = dask.from_array(numpy.array(my_data), chunks=(1000,))

mean = darray.mean()

stddev = darray.std(arr)

unnormalized_moment = darry.mean(arr * arr * arr)

## See formula in wikipedia:

skewness = ((unnormalized_moment - (3 * mean * stddev ** 2) - mean ** 3) /

stddev ** 3)

请注意，每个操作将根据需要使用尽可能多的内核。这将在所有核心上并行化执行，即使在计算数十亿个元素时也是如此。

当然，并不是我们所有的操作都可由这个库并行化，有时我们需要自己实现并行性。

为此，Dask 有一个“延迟”功能：

import dask

def is_palindrome(s):

return s == s[::-1]

palindromes = [dask.delayed(is_palindrome)(s) for s in string_list]

total = dask.delayed(sum)(palindromes)

result = total.compute()

import dask

def is_palindrome(s):

return s == s[::-1]

palindromes = [dask.delayed(is_palindrome)(s) for s in string_list]

total = dask.delayed(sum)(palindromes)

result = total.compute()

这将计算字符串是否是回文并返回回文的数量。

虽然 Dask 是为数据科学家创建的，但它绝不仅限于数据科学。每当我们需要在 Python 中并行化任务时，我们可以使用 Dask —— 无论有没有 GIL。