// read something from golbalMachine
return golbalMachine.GetData() == year;
}
上周手淘日志平台开始出现一种崩溃案例,IOS平台 MNN推理引擎中出现了静态变量相关的crash,如下所示,子线程崩溃时,主线程在调用_exit函数。实际的代码中存在子线程访问静态变量的情况,类似checkMachine中异常crash,观察到出现概率很低。
Exception Type: EXC_BAD_ACCESS
Exception Codes: KERN_INVALID_ADDRESS at 0x000095f59f17ce20
Exception Subtype: SIGSEGV
Triggered by Thread: 28
Thread 0:
0 Proximity 0x00000001b115eb4c -[PRProximityEstimator initSingleThresholdEstmatorWithDelegate:delegateQueue:].cold.1 :668 (in Proximity)
1 libsystem_c.dylib 0x0000000197db7064 __cxa_finalize_ranges :416 (in libsystem_c.dylib)
2 libsystem_c.dylib 0x0000000197db73a0 _exit :28 (in libsystem_c.dylib)
3 UIKitCore 0x000000019c2301a4 -[UIApplication _terminateWithStatus:] :508 (in UIKitCore)
Meyers Singleton在多线程场景也时常使用,原来开发中还未遇到异常,为什么现在就出现crash呢?有必要调查一番静态变量的线程安全性。我对IOS不熟悉,算是作为IOS血泪史的开始吧???
本文作为一个static变量多线程安全性与跨平台分析总结,为了阅读和行文方便,采用正序从理论定义到编译分析再到数据分析,而实际问题排查过程是逆序的,是根因法路径,用一张形象的图表示这种关系,会有很多旁支没有记录在文中,如果阅读中有疑惑的欢迎联系探讨,很多信息在旁路中没有写入文中。
编译与标准库调查
▐ c++11标准
经过一番调查在c++11的标准文档中发现有对静态变量多线程使用的规范,在 http://www.open-std.org/jtc1/sc22/wg21/docs/papers/2012/n3337.pdf, standard 6.7 [stmt.dcl] 的第4节,
If control enters the declaration concurrently while the variable is being initialized, the concurrent execution shall wait for completion of the initialization.8
也就是说线程B执行到正在线程A中初始化的静态变量时,要等待完成。这规定了构造函数的锁定等待特性。
在3.6.3 Termination [basic.start.term] 第1节,描述了程序结束时,静态/动态变量析构的顺序。
Destructors for initialized objects with thread storage duration within a given thread are called as a result of returning from the initial function of that thread and as a result of that thread calling std::exit.
The completions of the destructors for all initialized objects with thread storage duration within that thread are sequenced before the initiation of the destructors of any object with static storage duration. If the completion of the constructor or dynamic initialization of an object with thread storage duration is sequenced before that of another, the completion of the destructor of the second is sequenced before the initiation of the destructor of the first.
动态定义的局部变量在程序执行出其作用域时发生析构,线程local生命周期(thread storage duration)的对象在线程初始化函数返回后发生析构,或调用线程exit是析构。线程生命周期的对象全部在静态变量之前析构,静态变量按照后构造的先析构的栈式顺序释放。
此特性称为“Dynamic Initialization and Destruction with Concurrency”。
▐ 编译器实现
从c++ 11特性表中看到 gcc 4.3、 clang 2.9、MSVC 19.0 开始实现此特性。Apple clang不知道什么版本,只有一个Yes.
查阅GCC资料详情, 已经支持了静态变量构造和析构函数的多线程安全,特性为“Dynamic Initialization and Destruction with Concurrency”。
构造阶段:对于局部静态变量,多线程调用时,首先构造静态变量的线程先加锁,其他线程并不是按照已经初始化了继续执行,而是等待前者执行完的锁。对于全局静态变量,按照声明顺序在主线程构造,早于子线程启动。
析构阶段:全局和局部静态变量的析构函数在所有线程结束后才开始调用,保证析构时线程安全。
GCC从 GCC 4.3开始支持 , Visual Studio从Visual Studio 2015开始支持。 需要明确的是,这里的线程安全只是构造函数、析构函数阶段,如果在这两个阶段之间,在多个线程访问静态变量的含有有写操作的成员函数,或某种异步操作的函数,仍然是不安全的。如果调用只读内部数据的函数,则不会产生竞争。
对应的编译选项为负向开关:fno-threadsafe-statics, 在c++11和以后版本默认是打开这个特性的,仍然可以关闭。
-fno-threadsafe-statics
Do not emit the extra code to use the routines specified in the C++ ABI for thread-safe initialization of local statics. You can use this option to reduce code size slightly in code that doesn’t need to be thread-safe.
本机apple 的clang编译器版本为12.0.5,由于Apple未明确支持多线程析构构造版本,只写了一个Yes, 所以还不清楚什么版本支持。后续会看到实际看到的效果,属于部分支持。
Apple clang version 12.0.5 (clang-1205.0.22.11)
Target: x86_64-apple-darwin20.3.0
Thread model: posix
▐ 构造检测程序
编写测试程序的最终版本如下,此版本是经过了反复调整,力求增大复现问题的概率。
#include
#include
#include<unistd.h>
#define TAG “MY_TEST”
#define MY_DEBUG printf // add your platform timestamp threadid
class Machine
{
public:
Machine(int year_) : year(year_) {
MY_DEBUG(“before construct Machine:%p, thread:%d, year:%d”, this, year_, year);
MY_DEBUG(“after construct Machine:%p, thread:%d, year:%d”, this, year_, year);
}
~Machine() {
MY_DEBUG(“before destruct, year:%d”, year);
year = -1;
MY_DEBUG(“after destruct, set -1”); // -1 as invalid static data.
}
int GetData() const {
return year;
}
int year;
};
static const Machine golbalMachine(100); // 100 as global static valid data
const Machine &GetMachine(int index)
{
const static Machine machine(index);
MY_DEBUG(“return object for thread: %d. machine:%p, year:%d, globalMachine:%p, globalYear:%d”, index, &machine, machine.GetData(), &golbalMachine, golbalMachine.GetData());
return machine;
}
void CheckStaticVariable() {
std::thread t1(GetMachine, 1);
std::thread t2(GetMachine, 2);
std::thread t3(GetMachine, 3);
MY_DEBUG(“t1 detach”);
t1.detach();
MY_DEBUG(“t2 detach”);
t2.detach();
MY_DEBUG(“t3 detach”);
t3.detach();
// MY_DEBUG(“t1 join”);
// t1.join();
// MY_DEBUG(“t2 join”);
// t2.join();
// MY_DEBUG(“t3 join”);
// t3.join();
}
int main() {
MY_DEBUG(“start main\n”);
CheckStaticVariable();
exit(0); // in order to auto complete ios app main thread.
return 0;
}
linux 平台实测
在Ubuntu机器上用GCC和CLANG两种编译器运行测试。
Description: Ubuntu 20.04.2 LTS
Release: 20.04
g++ (Ubuntu 9.3.0-17ubuntu1~20.04) 9.3.0
clang version 10.0.1
Target: x86_64-unknown-linux-gnu
Thread model: posix
▐ 实测
使用GCC编译器,编译运行上述程序, 在shell中持续循环运行多次,静态变量析构都发生在线程执行完成之后。得到如下结果。GetMachine函数得到的全局、局部静态变量数值都是大于0的有效值,并非-1.
使用fno-threadsafe-statics
制造不安全场景, 大规模循环执行后,复现了子线程读取到错误数据的case,此局部静态变量已经析构。由于实验的是简单数据类型, 并没有crash。如果是访问析构后的复杂对象,则可能crash。 而且从多线程发生重复竞争构造同一个静态对象,重复析构同一个静态对象。
同时发现,在大量循环后,全局静态变量始终在子线程访问结束后才析构,与gcc 编译器的说明是对应的,也就是说这个特性一直打开,不受fno-threadsafe-statics
影响,此选项只影响局部静态变量。
使用 clang编译器,编译运行上述程序, 在shell中持续循环运行多次,静态变量析构都发生在线程执行完成之后。多线程安全。
使用fno-threadsafe-statics
制造不安全场景, 大规模循环执行后,可复现了子线程读取到错误数据的case,此局部静态变量已经析构。
▐ 汇编分析
为了进一步查看区别和原因,使用GCC编译器编出汇编代码继续分析,使用fno-threadsafe-statics
选项得到不安全的汇编代码,对应下图左侧,右侧为静态变量多线程安全代码。将符号demangle后分析差异。
g++ -std=c++11 -pthread -S static_thread.cpp -o static_thread_gcc_x64.S
g++ -std=c++11 -pthread -fno-threadsafe-statics -S static_thread.cpp -o static_thread_gcc_x64_unsafe.S
threadstatic# c++filt _ZGVZ10GetMachineiE7machine
guard variable for GetMachine(int)::machine
threadstatic# c++filt _ZZ10GetMachineiE7machine
GetMachine(int)::machine
threadstatic# c++filt _ZN7MachineC1Ei
Machine::Machine(int)
/threadstatic# c++filt _ZN7MachineD1Ev
Machine::~Machine()
_ZZ10GetMachineiE7machine
为 GetMachine(int)::machine
函数调用, _ZN7MachineC1Ei
为Machine类的构造函数。线程安全版本在调用GetMachine时先通过__cxa_guard_acquire
获取了guard锁,call _ZN7MachineC1Ei
调用Machine类构造局部静态对象之后,再用__ __cxa_guard_abort
和 __cxa_guard_release
释放锁。最后把析构函数_ZN7MachineD1Ev
用__cxa_atexit
注册到程序退出函数表中。
从gcc说明文档也可以看到这个信息:
// The actual code emitted by GCC to call a local static variable’s constructor looks something like this:
static guard;
if (!guard.first_byte)
{
if (__cxa_guard_acquire (&guard))
{
bool flag = false;
try
{
// Do initialization.
__cxa_guard_release (&guard);
flag = true;
// Register variable for destruction at end of program.
}
catch
{
if (!flag)
{
__cxa_guard_abort (&guard);
}
}
}
}
在实测部分,大量循环后,全局静态变量始终在子线程访问结束后才析构,说这个特性一直打开,不受fno-threadsafe-statics
影响,所以汇编代码无法对比出差异,受时间限制暂未去找实现的原理。
Apple 平台实测
▐ Apple IOS
Clang 12.0.5
保持xcode工程的 Statics are Thread-Safe
选项打开。设定optimization level为-O0
,无优化。
手动在iphone XS上运行测试代码,出现下图问题,子线程访问到-1数据时,主线程在调用_exit
函数退出,触发_cxa_atexit中注册过的静态变量析构函数。由于实验的是简单数据类型, 并没有crash。如果是访问析构后的复杂对象,则可能crash,正好对应线上crash的场景。
// 线上crash堆栈
Thread 0:
1 libsystem_c.dylib 0x0000000197db7064 __cxa_finalize_ranges :416 (in libsystem_c.dylib)
2 libsystem_c.dylib 0x0000000197db73a0 _exit :28 (in libsystem_c.dylib)
3 UIKitCore 0x000000019c2301a4 -[UIApplication _terminateWithStatus:] :508 (in UIKitCore)
本人从事网路安全工作12年,曾在2个大厂工作过,安全服务、售后服务、售前、攻防比赛、安全讲师、销售经理等职位都做过,对这个行业了解比较全面。
最近遍览了各种网络安全类的文章,内容参差不齐,其中不伐有大佬倾力教学,也有各种不良机构浑水摸鱼,在收到几条私信,发现大家对一套完整的系统的网络安全从学习路线到学习资料,甚至是工具有着不小的需求。
最后,我将这部分内容融会贯通成了一套282G的网络安全资料包,所有类目条理清晰,知识点层层递进,需要的小伙伴可以点击下方小卡片领取哦!下面就开始进入正题,如何从一个萌新一步一步进入网络安全行业。
学习路线图
其中最为瞩目也是最为基础的就是网络安全学习路线图,这里我给大家分享一份打磨了3个月,已经更新到4.0版本的网络安全学习路线图。
相比起繁琐的文字,还是生动的视频教程更加适合零基础的同学们学习,这里也是整理了一份与上述学习路线一一对应的网络安全视频教程。
网络安全工具箱
当然,当你入门之后,仅仅是视频教程已经不能满足你的需求了,你肯定需要学习各种工具的使用以及大量的实战项目,这里也分享一份我自己整理的网络安全入门工具以及使用教程和实战。
项目实战
最后就是项目实战,这里带来的是SRC资料&HW资料,毕竟实战是检验真理的唯一标准嘛~
面试题
归根结底,我们的最终目的都是为了就业,所以这份结合了多位朋友的亲身经验打磨的面试题合集你绝对不能错过!