C++ Static变量跨平台、多线程安全性分析

0 Proximity 0x00000001b115eb4c -[PRProximityEstimator initSingleThresholdEstmatorWithDelegate:delegateQueue:].cold.1 :668 (in Proximity)

1 libsystem_c.dylib 0x0000000197db7064 __cxa_finalize_ranges :416 (in libsystem_c.dylib)

2 libsystem_c.dylib 0x0000000197db73a0 _exit :28 (in libsystem_c.dylib)

3 UIKitCore 0x000000019c2301a4 -[UIApplication _terminateWithStatus:] :508 (in UIKitCore)

Meyers Singleton在多线程场景也时常使用,原来开发中还未遇到异常,为什么现在就出现crash呢?有必要调查一番静态变量的线程安全性。我对IOS不熟悉,算是作为IOS血泪史的开始吧???

本文作为一个static变量多线程安全性与跨平台分析总结,为了阅读和行文方便,采用正序从理论定义到编译分析再到数据分析,而实际问题排查过程是逆序的,是根因法路径,用一张形象的图表示这种关系,会有很多旁支没有记录在文中,如果阅读中有疑惑的欢迎联系探讨,很多信息在旁路中没有写入文中。

编译与标准库调查

  c++11标准

经过一番调查在c++11的标准文档中发现有对静态变量多线程使用的规范,在 http://www.open-std.org/jtc1/sc22/wg21/docs/papers/2012/n3337.pdf, standard 6.7 [stmt.dcl] 的第4节,

If control enters the declaration concurrently while the variable is being initialized, the concurrent execution shall wait for completion of the initialization.8

也就是说线程B执行到正在线程A中初始化的静态变量时,要等待完成。这规定了构造函数的锁定等待特性。

在3.6.3 Termination [basic.start.term] 第1节,描述了程序结束时,静态/动态变量析构的顺序。

Destructors for initialized objects with thread storage duration within a given thread are called as a result of returning from the initial function of that thread and as a result of that thread calling std::exit.

The completions of the destructors for all initialized objects with thread storage duration within that thread are sequenced before the initiation of the destructors of any object with static storage duration. If the completion of the constructor or dynamic initialization of an object with thread storage duration is sequenced before that of another, the completion of the destructor of the second is sequenced before the initiation of the destructor of the first.

动态定义的局部变量在程序执行出其作用域时发生析构,线程local生命周期(thread storage duration)的对象在线程初始化函数返回后发生析构,或调用线程exit是析构。线程生命周期的对象全部在静态变量之前析构,静态变量按照后构造的先析构的栈式顺序释放。

此特性称为“Dynamic Initialization and Destruction with Concurrency”。

  编译器实现

从c++ 11特性表中看到 gcc 4.3、 clang 2.9、MSVC 19.0 开始实现此特性。Apple clang不知道什么版本,只有一个Yes.

  • GCC

查阅GCC资料详情, 已经支持了静态变量构造和析构函数的多线程安全,特性为“Dynamic Initialization and Destruction with Concurrency”。

构造阶段:对于局部静态变量,多线程调用时,首先构造静态变量的线程先加锁,其他线程并不是按照已经初始化了继续执行,而是等待前者执行完的锁。对于全局静态变量,按照声明顺序在主线程构造,早于子线程启动。

析构阶段:全局和局部静态变量的析构函数在所有线程结束后才开始调用,保证析构时线程安全。

GCC从 GCC 4.3开始支持 , Visual Studio从Visual Studio 2015开始支持。 需要明确的是,这里的线程安全只是构造函数、析构函数阶段,如果在这两个阶段之间,在多个线程访问静态变量的含有有写操作的成员函数,或某种异步操作的函数,仍然是不安全的。如果调用只读内部数据的函数,则不会产生竞争。

对应的编译选项为负向开关:fno-threadsafe-statics, 在c++11和以后版本默认是打开这个特性的,仍然可以关闭。

-fno-threadsafe-statics

Do not emit the extra code to use the routines specified in the C++ ABI for thread-safe initialization of local statics. You can use this option to reduce code size slightly in code that doesn’t need to be thread-safe.

  • CLANG

本机apple 的clang编译器版本为12.0.5,由于Apple未明确支持多线程析构构造版本,只写了一个Yes, 所以还不清楚什么版本支持。后续会看到实际看到的效果,属于部分支持。

Apple clang version 12.0.5 (clang-1205.0.22.11)

Target: x86_64-apple-darwin20.3.0

Thread model: posix

  构造检测程序

编写测试程序的最终版本如下,此版本是经过了反复调整,力求增大复现问题的概率。

#include

#include

#include<unistd.h>

#define TAG “MY_TEST”

#define MY_DEBUG printf // add your platform timestamp threadid

class Machine

{

public:

Machine(int year_) : year(year_) {

MY_DEBUG(“before construct Machine:%p, thread:%d, year:%d”, this, year_, year);

MY_DEBUG(“after construct Machine:%p, thread:%d, year:%d”, this, year_, year);

}

~Machine() {

MY_DEBUG(“before destruct, year:%d”, year);

year = -1;

MY_DEBUG(“after destruct, set -1”); // -1 as invalid static data.

}

int GetData() const {

return year;

}

int year;

};

static const Machine golbalMachine(100); // 100 as global static valid data

const Machine &GetMachine(int index)

{

const static Machine machine(index);

MY_DEBUG(“return object for thread: %d. machine:%p, year:%d, globalMachine:%p, globalYear:%d”, index, &machine, machine.GetData(), &golbalMachine, golbalMachine.GetData());

return machine;

}

void CheckStaticVariable() {

std::thread t1(GetMachine, 1);

std::thread t2(GetMachine, 2);

std::thread t3(GetMachine, 3);

MY_DEBUG(“t1 detach”);

t1.detach();

MY_DEBUG(“t2 detach”);

t2.detach();

MY_DEBUG(“t3 detach”);

t3.detach();

// MY_DEBUG(“t1 join”);

// t1.join();

// MY_DEBUG(“t2 join”);

// t2.join();

// MY_DEBUG(“t3 join”);

// t3.join();

}

int main() {

MY_DEBUG(“start main\n”);

CheckStaticVariable();

exit(0); // in order to auto complete ios app main thread.

return 0;

}

linux 平台实测

在Ubuntu机器上用GCC和CLANG两种编译器运行测试。

Description: Ubuntu 20.04.2 LTS

Release: 20.04

g++ (Ubuntu 9.3.0-17ubuntu1~20.04) 9.3.0

clang version 10.0.1

Target: x86_64-unknown-linux-gnu

Thread model: posix

  实测
  • GCC

使用GCC编译器,编译运行上述程序, 在shell中持续循环运行多次,静态变量析构都发生在线程执行完成之后。得到如下结果。GetMachine函数得到的全局、局部静态变量数值都是大于0的有效值,并非-1.

使用fno-threadsafe-statics制造不安全场景, 大规模循环执行后,复现了子线程读取到错误数据的case,此局部静态变量已经析构。由于实验的是简单数据类型, 并没有crash。如果是访问析构后的复杂对象,则可能crash。 而且从多线程发生重复竞争构造同一个静态对象,重复析构同一个静态对象。

同时发现,在大量循环后,全局静态变量始终在子线程访问结束后才析构,与gcc 编译器的说明是对应的,也就是说这个特性一直打开,不受fno-threadsafe-statics影响,此选项只影响局部静态变量。

  • CLANG

使用 clang编译器,编译运行上述程序, 在shell中持续循环运行多次,静态变量析构都发生在线程执行完成之后。多线程安全。

使用fno-threadsafe-statics制造不安全场景, 大规模循环执行后,可复现了子线程读取到错误数据的case,此局部静态变量已经析构。

  汇编分析

为了进一步查看区别和原因,使用GCC编译器编出汇编代码继续分析,使用fno-threadsafe-statics选项得到不安全的汇编代码,对应下图左侧,右侧为静态变量多线程安全代码。将符号demangle后分析差异。

g++ -std=c++11 -pthread -S static_thread.cpp -o static_thread_gcc_x64.S

g++ -std=c++11 -pthread -fno-threadsafe-statics -S static_thread.cpp -o static_thread_gcc_x64_unsafe.S

threadstatic# c++filt _ZGVZ10GetMachineiE7machine

guard variable for GetMachine(int)::machine

threadstatic# c++filt _ZZ10GetMachineiE7machine

GetMachine(int)::machine

threadstatic# c++filt _ZN7MachineC1Ei

Machine::Machine(int)

/threadstatic# c++filt _ZN7MachineD1Ev

Machine::~Machine()

_ZZ10GetMachineiE7machine为 GetMachine(int)::machine 函数调用, _ZN7MachineC1Ei 为Machine类的构造函数。线程安全版本在调用GetMachine时先通过__cxa_guard_acquire获取了guard锁,call _ZN7MachineC1Ei 调用Machine类构造局部静态对象之后,再用__ __cxa_guard_abort 和 __cxa_guard_release 释放锁。最后把析构函数_ZN7MachineD1Ev__cxa_atexit 注册到程序退出函数表中。

从gcc说明文档也可以看到这个信息:

// The actual code emitted by GCC to call a local static variable’s constructor looks something like this:

static guard;

if (!guard.first_byte)

{

if (__cxa_guard_acquire (&guard))

{

bool flag = false;

try

{

// Do initialization.

__cxa_guard_release (&guard);

flag = true;

// Register variable for destruction at end of program.

}

catch

{

if (!flag)

{

__cxa_guard_abort (&guard);

}

}

}

}

在实测部分,大量循环后,全局静态变量始终在子线程访问结束后才析构,说这个特性一直打开,不受fno-threadsafe-statics影响,所以汇编代码无法对比出差异,受时间限制暂未去找实现的原理。

Apple 平台实测

  Apple IOS

Clang 12.0.5

保持xcode工程的 Statics are Thread-Safe 选项打开。设定optimization level为-O0,无优化。

手动在iphone XS上运行测试代码,出现下图问题,子线程访问到-1数据时,主线程在调用_exit函数退出,触发_cxa_atexit中注册过的静态变量析构函数。由于实验的是简单数据类型, 并没有crash。如果是访问析构后的复杂对象,则可能crash,正好对应线上crash的场景。

// 线上crash堆栈

Thread 0:

1 libsystem_c.dylib 0x0000000197db7064 __cxa_finalize_ranges :416 (in libsystem_c.dylib)

2 libsystem_c.dylib 0x0000000197db73a0 _exit :28 (in libsystem_c.dylib)

3 UIKitCore 0x000000019c2301a4 -[UIApplication _terminateWithStatus:] :508 (in UIKitCore)

复制

而linux平台只有关闭线程安全选项fno-threadsafe-statics后才会出现。正常编译下静态变量构造和析构都是安全的。说明此clang+ios并未实现完整的Dynamic Initialization and Destruction with Concurrency.

IOS MNN crash的根源在于Apple clang编译器和运行时库未实现静态变量析构的多线程安全。

  Apple Mac

Apple clang version 12.0.5 (clang-1205.0.22.11)

Target: x86_64-apple-darwin20.3.0

Thread model: posix

在mac下使用Apple clang编译,静态变量线程安全选项默认打开情况下,仍然可以复现此问题, 和ios的情况一致。

clang++ -std=c++11 -pthread static_thread.cpp -o static_thread_clang_mac

android平台实测

  NDK Clang

Android (7019983 based on r365631c3) clang version 9.0.9 (https://android.googlesource.com/toolchain/llvm-project a2a1e703c0edb03ba29944e529ccbf457742737b) (based on LLVM 9.0.9svn)

Target: x86_64-apple-darwin20.3.0

Thread model: posix

android NDK r21e的clang版本为9.09, 大于了c++11此特性标注的clang 2.9, 编译测试代码,执行可以看到构造过程仍然保证只构造一次, thread1 线程号15623, GetMachine取到的局部和全局静态变量都是-1,因为局部和全局静态变量析构函数已经早于此线程调用GetMachine执行了。此版本析构过程线程不安全。说明此clang+ndk库并未实现完整的 Dynamic Initialization and Destruction with Concurrency.

我手头的ndk版本不高,哪位同学如果有更高版本,方便的话可编译运行一下此测试程序。

  aarch64 GCC

Using built-in specs.

COLLECT_GCC=aarch64-linux-gnu-g++

COLLECT_LTO_WRAPPER=/usr/lib/gcc-cross/aarch64-linux-gnu/9/lto-wrapper

Target: aarch64-linux-gnu

Thread model: posix

gcc version 9.3.0 (Ubuntu 9.3.0-17ubuntu1~20.04)

由于android NDK r18以后已经不再支持GCC编译器,暂且使用GCC arm交叉编译工具 aarch64-linux-gnu-g++ 尝试运行测试程序。在执行后有不兼容的异常, 反复执行多次,构造函数只执行一次,GetMachine日志显示都能得到正确的结果year:1, globalYear:100, 并未出现析构后的-1数值。虽然不完全肯定,初步可以说明 GCC在安卓上静态变量多线程安全**。**

解决办法

虽然c++11标准有约束,但对析构时的多线程和静态变量的关系不是所有编译器和库完整实现,GCC编译器中做了完整实现,实验过的Apple/Android clang编译器版本只支持构造、不支持析构的多线程安全,微软编译器则在VS2015后支持。

追溯解决:** 如要继续追溯析构时的行为差异,不仅是编译器,需要从apple clang编译器代码与std库的某种共同作用着手,这个涉及到一个全新的领域了,暂无法去继续调查,后续暂且给clang或apple提一个issue。

规避解决1: 对于IOS 中遇到的析构时多线程异常问题,虽然本来静态变量并不多,而且语法规范是线程安全的,由于不同厂商编译器和库实现程度不同,MNN又需要做到IOS android linux windows跨平台,我们的解决办法是避免使用static变量或对象,牺牲一些重复创建对象的开销,也要想方设法改成非静态变量****。 也可以自行加锁,访问、析构前都加锁来避免。

再回到开头的两个经典模式,我们不难发现Meyers Singleton 在gcc编译器下是多线程构造、析构安全的。真是一个表面简单而实际不简单的模式!岁月静好地写代码时有众多大牛思想的结晶在默默守卫。如果要跨平台到IOS上,可要小心了,析构的时候可能发生多线程访问crash。如果自己保证先退出多线程,也是ok的。

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数网络安全工程师,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年网络安全全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友。
img
img
img
img
img
img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上网络安全知识点,真正体系化!

由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新

如果你觉得这些内容对你有帮助,可以添加VX:vip204888 (备注网络安全获取)
img

如何自学黑客&网络安全

黑客零基础入门学习路线&规划

初级黑客
1、网络安全理论知识(2天)
①了解行业相关背景,前景,确定发展方向。
②学习网络安全相关法律法规。
③网络安全运营的概念。
④等保简介、等保规定、流程和规范。(非常重要)

2、渗透测试基础(一周)
①渗透测试的流程、分类、标准
②信息收集技术:主动/被动信息搜集、Nmap工具、Google Hacking
③漏洞扫描、漏洞利用、原理,利用方法、工具(MSF)、绕过IDS和反病毒侦察
④主机攻防演练:MS17-010、MS08-067、MS10-046、MS12-20等

3、操作系统基础(一周)
①Windows系统常见功能和命令
②Kali Linux系统常见功能和命令
③操作系统安全(系统入侵排查/系统加固基础)

4、计算机网络基础(一周)
①计算机网络基础、协议和架构
②网络通信原理、OSI模型、数据转发流程
③常见协议解析(HTTP、TCP/IP、ARP等)
④网络攻击技术与网络安全防御技术
⑤Web漏洞原理与防御:主动/被动攻击、DDOS攻击、CVE漏洞复现

5、数据库基础操作(2天)
①数据库基础
②SQL语言基础
③数据库安全加固

6、Web渗透(1周)
①HTML、CSS和JavaScript简介
②OWASP Top10
③Web漏洞扫描工具
④Web渗透工具:Nmap、BurpSuite、SQLMap、其他(菜刀、漏扫等)
恭喜你,如果学到这里,你基本可以从事一份网络安全相关的工作,比如渗透测试、Web 渗透、安全服务、安全分析等岗位;如果等保模块学的好,还可以从事等保工程师。薪资区间6k-15k

到此为止,大概1个月的时间。你已经成为了一名“脚本小子”。那么你还想往下探索吗?

如果你想要入坑黑客&网络安全,笔者给大家准备了一份:282G全网最全的网络安全资料包评论区留言即可领取!

7、脚本编程(初级/中级/高级)
在网络安全领域。是否具备编程能力是“脚本小子”和真正黑客的本质区别。在实际的渗透测试过程中,面对复杂多变的网络环境,当常用工具不能满足实际需求的时候,往往需要对现有工具进行扩展,或者编写符合我们要求的工具、自动化脚本,这个时候就需要具备一定的编程能力。在分秒必争的CTF竞赛中,想要高效地使用自制的脚本工具来实现各种目的,更是需要拥有编程能力.

如果你零基础入门,笔者建议选择脚本语言Python/PHP/Go/Java中的一种,对常用库进行编程学习;搭建开发环境和选择IDE,PHP环境推荐Wamp和XAMPP, IDE强烈推荐Sublime;·Python编程学习,学习内容包含:语法、正则、文件、 网络、多线程等常用库,推荐《Python核心编程》,不要看完;·用Python编写漏洞的exp,然后写一个简单的网络爬虫;·PHP基本语法学习并书写一个简单的博客系统;熟悉MVC架构,并试着学习一个PHP框架或者Python框架 (可选);·了解Bootstrap的布局或者CSS。

8、超级黑客
这部分内容对零基础的同学来说还比较遥远,就不展开细说了,附上学习路线。
img

网络安全工程师企业级学习路线

img
如图片过大被平台压缩导致看不清的话,评论区点赞和评论区留言获取吧。我都会回复的

视频配套资料&国内外网安书籍、文档&工具

当然除了有配套的视频,同时也为大家整理了各种文档和书籍资料&工具,并且已经帮大家分好类了。

img
一些笔者自己买的、其他平台白嫖不到的视频教程。
img

一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
img

log.csdnimg.cn/img_convert/3fd39c2ba8ec22649979f245f4221608.webp?x-oss-process=image/format,png)

网络安全工程师企业级学习路线

img
如图片过大被平台压缩导致看不清的话,评论区点赞和评论区留言获取吧。我都会回复的

视频配套资料&国内外网安书籍、文档&工具

当然除了有配套的视频,同时也为大家整理了各种文档和书籍资料&工具,并且已经帮大家分好类了。

img
一些笔者自己买的、其他平台白嫖不到的视频教程。
img

一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
[外链图片转存中…(img-jK84ASzy-1712824112459)]

  • 21
    点赞
  • 22
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值