tbb基础之parallel_for用法详解

最新推荐文章于 2024-07-26 11:00:19 发布

Alex-xt

最新推荐文章于 2024-07-26 11:00:19 发布

阅读量4k

点赞数 1

分类专栏： opencv

opencv 专栏收录该内容

7 篇文章 0 订阅

订阅专栏

要讲解parallel_for，我们首先讲一个例子，该例子是对数组的每一个元素进行遍历，常规的串行算法代码如下：

template< typename T> void Visit( T var)
{
printf( "%0.2f, ", var);
}
void Sequence_Visit( const float* fArray, int nSize)
{
for ( int i= 0; i<nSize; i++)
{
Visit< float>(fArray[i]);
if ( i% 5== 0 && i> 0)
{
printf( "\n");
}
}
}

上面这段代码很熟悉，常规编程中我们都是这样写的，这里不再做分析。而采用TBB中的parallel_for重写后的代码如下：

class ApplyFoo
{
float* const my_a;
public:
void operator()(const blocked_range<size_t>& range) const
{
float* a = my_a;
for ( size_t i = range.begin(); i!=range.end(); ++i)
{
Foo(a[i]);
if ( i% 5== 0 && i> 0)
{
printf( "\n");
}
}
}
ApplyFoo( float a[]):my_a(a)
{
}
void Foo( float var) const
{
printf( "%0.2f, ", var);
}
};
void ParallelApplyFoo( float a[], size_t n )
{
parallel_for( blocked_range< size_t>( 0, n, 100), ApplyFoo(a), auto_partitioner());
}

这段代码中，我们首先定义了一个ApplyFoo类，并重载了operator()，而在ParallelApplyFoo函数中调用parallel_for来并行对数组元素进行操作，这里出现了两个新词：blocked_range和parallel_for。下面逐个分析：

1、blocked_range

blocked_range是一个模板类，表述了一维迭代（iterator），我们可以通过其头文件blocked_range.h查看其定义：

template< typename Value>
class blocked_range {
public:
//! Type of a value
typedef Value const_iterator;
typedef std:: size_t size_type;
//! Construct range with default-constructed values for begin and end.
blocked_range() : my_end(), my_begin() {}
//! Construct range over half-open interval [begin,end), with the given grainsize.
blocked_range( Value begin_, Value end_, size_type grainsize_= 1 ) :
my_end(end_), my_begin(begin_), my_grainsize(grainsize_)
{
__TBB_ASSERT( my_grainsize> 0, "grainsize must be positive" );
}
//! Beginning of range.
const_iterator begin() const { return my_begin;}
//! One past last value in range.
const_iterator end() const { return my_end;}
//! Size of the range
size_type size() const {
__TBB_ASSERT( !(end()<begin()), "size() unspecified if end()<begin()" );
return size_type(my_end-my_begin);
}
//! The grain size for this range.
size_type grainsize() const { return my_grainsize;}
//------------------------------------------------------------------------
// Methods that implement Range concept
//------------------------------------------------------------------------
//! True if range is empty.
bool empty() const { return !(my_begin<my_end);}
//! True if range is divisible.
/** Unspecified if end()<begin(). */
bool is_divisible() const { return my_grainsize<size();}
//! Split range.
/** The new Range *this has the second half, the old range r has the first half.
Unspecified if end()<begin() or !is_divisible(). */
blocked_range( blocked_range& r, split ) :
my_end(r.my_end),
my_begin(do_split(r)),
my_grainsize(r.my_grainsize)
{}
private:
/** NOTE: my_end MUST be declared before my_begin, otherwise the forking constructor will break. */
Value my_end;
Value my_begin;
size_type my_grainsize;
//! Auxiliary function used by forking constructor.
static Value do_split( blocked_range& r ) {
__TBB_ASSERT( r.is_divisible(), "cannot split blocked_range that is not divisible" );
Value middle = r.my_begin + (r.my_end-r.my_begin)/ 2u;
r.my_end = middle;
return middle;
}
template< typename RowValue, typename ColValue>
friend class blocked_range2d;
template< typename RowValue, typename ColValue, typename PageValue>
friend class blocked_range3d;
};

从上面blocked_range的定义中，可以看到该类有3个构造函数，而我们上面的实例代码采用的构造函数为：

blocked_range( Value begin_, Value end_, size_type grainsize_= 1 ) :
my_end(end_), my_begin(begin_), my_grainsize(grainsize_)
{
__TBB_ASSERT( my_grainsize> 0, "grainsize must be positive" );
}

第一个参数表示起始，第二个参数表示结束，它们的类型为const_iterator，表示的区间为[begin，end)这样一个半开区间。第三个参数，grainsize，表示的是一个“合适的大小”块，这个块会在一个循环中进行处理，如果数组比这个grainsize还大，parallel_for会把它分割为独立的block，然后分别进行调度（有可能由多个线程进行处理）。

这样我们知道，grainsize其实决定了TBB什么时候对数据进行划分，如果我们把grainsize指定得太小，那就可能会导致产生过多得block，从而使得不同block间的overhead增加（比如多个线程间切换的代价），有可能会使性能下降。相反，如果grainsize设得太大，以致于这个数组几乎没有被划分，那又会导致不能发挥parallel_for期望达到的并行效果，也没有达到理想得性能。所以我们在决定grainsize时需要小心，最好是能够经过调整测试后得到的值，当然你也可以如本例中一样不指定，让TBB帮你来决定合适的值（一般不是最优的）。一个调整grainsize的经验性步骤：

1）首先把grainsize设得比预想的要大一些，通常设为10000
2）在单处理机机器上运行，得到性能数据
3）把grainsize减半，看性能降低多少，如果降低在5%-10%之间，那这个grainsize就已经是一个不错的设定。

另外，在该类定义的最后可以看到还定义了：

template< typename RowValue, typename ColValue>
friend class blocked_range2d;
template< typename RowValue, typename ColValue, typename PageValue>
friend class blocked_range3d;

特别是blocked_range2d对于处理矩阵和图像数据非常有用。

2、Parallel_for

parallel_for是本文的核心，因此首先我们看下其定义（在parallel_for.h文件中，这里只摘录了部分代码）：

template< typename Range, typename Body>
void parallel_for( const Range& range, const Body& body ) {
internal::start_for<Range,Body,__TBB_DEFAULT_PARTITIONER>::run(range,body,__TBB_DEFAULT_PARTITIONER());
}
//! Parallel iteration over range with simple partitioner.
template< typename Range, typename Body>
void parallel_for( const Range& range, const Body& body, const simple_partitioner& partitioner ) {
internal::start_for<Range,Body,simple_partitioner>::run(range,body,partitioner);
}
//! Parallel iteration over range with auto_partitioner.
template< typename Range, typename Body>
void parallel_for( const Range& range, const Body& body, const auto_partitioner& partitioner ) {
internal::start_for<Range,Body,auto_partitioner>::run(range,body,partitioner);
}
//! Parallel iteration over range with affinity_partitioner.
template< typename Range, typename Body>
void parallel_for( const Range& range, const Body& body, affinity_partitioner& partitioner ) {
internal::start_for<Range,Body,affinity_partitioner>::run(range,body,partitioner);
}

本文用的是第二种调用方法，其参数：

1）range：指定划分block的范围。
2）body：指定对block应用的操作，Body可以看成是一个操作子functor，它的operator(...)会以blocked_range为参数进行调用，当然如果我们传过来的是一个函数指针也是可以的，只要它能以blocked_range为参数进行调用。
3）partitioner：指定划分器，可选的两种simple_partitioner和auto_partitioner。

Alex-xt

关注

1
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
tbb基础之parallel_for用法详解

要讲解parallel_for，我们首先讲一个例子，该例子是对数组的每一个元素进行遍历，常规的串行算法代码如下：template&lt;typename T&gt; void Visit( T var){ printf("%0.2f, ", var);} void Sequence_Visit( const float* fArray, int nSize){ for ( int i=0; ...
复制链接

扫一扫

专栏目录