std::sort引发的core

这两天定位了一个由std::sort引发的core。

写了下面的程序来复现此问题。

1. #include <stdio.h>
   
2. #include <vector>
   
3. #include <algorithm>
   
4. #include <new>
   
5. 
   
6. struct foo_t
   
7. {
   
8.     int size;
   
9. };
   
10. 
    
11. class cmp_t
    
12. {
    
13. public:
    
14.     bool operator()(foo_t *a, foo_t *b)
    
15.     {
    
16.         return a->size >= b->size;
    
17.     }
    
18. };
    
19. 
    
20. int main(int argc, char *argv[])
    
21. {
    
22.     std::vector<foo_t *> vec;
    
23. 
    
24.     for (int i = 0; i < 17; i++)
    
25.     {
    
26.         foo_t *x = new(std::nothrow) foo_t();
    
27.         if (NULL == x)
    
28.         {
    
29.             goto fail;
    
30.         }
    
31.         else
    
32.         {
    
33.             x->size = 1;
    
34.         }
    
35.         vec.push_back(x);
    
36.     }
    
37. 
    
38.     std::sort(vec.begin(), vec.end(), cmp_t());
    
39. fail:
    
40.     for(std::vector<foo_t *>::iterator iter = vec.begin(); vec.end() != iter; ++iter)
    
41.     {
    
42.         delete *iter;
    
43.         *iter = NULL;
    
44.     }
    
45. 
    
46.     return 0;
    
47. }

然后编译

1. g++ main.cpp -Werror -Wall -g

然后执行，此时系统出core，错误类型为段错误
如果无core文件产生，可以使用

1. ulimit -c unlimited

后重新执行一次，此时就会有core文件生成
然后

1. gdb a.out core
2. (gdb) bt
3. #0  0x0804889e in cmp_t::operator() (this=0xbfed92d0, a=0x0, b=0x9a9d0c8) at main.cpp:16
   #1  0x080497ff in std::__unguarded_partition<__gnu_cxx::__normal_iterator<foo_t**, std::vector<foo_t*,="" std::allocator > >, foo_t*, cmp_t> (__first=..., __last=..., __pivot=@0x9a9d1a0, __comp=...) at /usr/include/c++/4.6/bits/stl_algo.h:2233
   #2  0x0804926a in std::__unguarded_partition_pivot<__gnu_cxx::__normal_iterator<foo_t**, std::vector<foo_t*,="" std::allocator > >, cmp_t> (__first=..., __last=..., __comp=...) at /usr/include/c++/4.6/bits/stl_algo.h:2265
   #3  0x08048e84 in std::__introsort_loop<__gnu_cxx::__normal_iterator<foo_t**, std::vector<foo_t*,="" std::allocator > >, int, cmp_t> (
       __first=..., __last=..., __depth_limit=7, __comp=...) at /usr/include/c++/4.6/bits/stl_algo.h:2306
   #4  0x08048a22 in std::sort<__gnu_cxx::__normal_iterator<foo_t**, std::vector<foo_t*,="" std::allocator > >, cmp_t> (__first=..., 
       __last=..., __comp=...) at /usr/include/c++/4.6/bits/stl_algo.h:5368
   #5  0x080487ce in main (argc=1, argv=0xbfed9464) at main.cpp:38
   
   

可以看到，系统core在了排序函数里面。
然后通过分析stl代码发现以下一段代码

1. /// This is a helper function...
   
2.   template<typename _RandomAccessIterator, typename _Tp, typename _Compare>
   
3.     _RandomAccessIterator
   
4.     __unguarded_partition(_RandomAccessIterator __first,
   
5.              _RandomAccessIterator __last,
   
6.              const _Tp& __pivot, _Compare __comp)
   
7.     {
   
8.       while (true)
   
9.     {
   
10.      while (__comp(*__first, __pivot))
    
11.      ++__first;
    
12.      --__last;
    
13.      while (__comp(__pivot, *__last))
    
14.      --__last;
    
15.      if (!(__first < __last))
    
16.      return __first;
    
17.      std::iter_swap(__first, __last);
    
18.      ++__first;
    
19.     }
    
20.     }

此函数完成快速排序中分区功能，即将比哨兵小的数据放在其前，大的放在其后。
函数中使用的是
while  (__comp ( *__first , __pivot ) )
    ++__first;

如果当比较元素相同返回真时，此时比较元素将会继续向下遍历，在极端情况下，例如程序中所有元素都是一样的情况下，在这种情况下，就会出现访问越界，结果就是导致程序出现segment fault

所以在写c++ stl中的比较函数是，bool返回真的时候，一定是“真的”大，或者小，等于的时候只能返回false。

这个错误算是一次教训，索性的是没有引起大范围的错误。