一例“msvc编译器O2优化触发的崩溃”的分析

sculida

已于 2023-12-24 16:28:04 修改

阅读量317

点赞数

分类专栏：逆向文章标签： visualstudio 汇编

于 2023-09-23 19:23:08 首次发布

本文链接：https://blog.csdn.net/u010607621/article/details/133214881

版权

本文分析了一起由MSVC编译器O2优化引起的栈不平衡崩溃问题，通过反汇编和实时调试，发现是由于调用约定不一致导致edi寄存器值变化。使用volatile关键字使得删除指针时从栈中获取，从而避免了崩溃。然而，只有将volatile关键字应用于指针变量并确保其存储在栈上，才能真正解决问题。

摘要由CSDN通过智能技术生成

栈不平衡与调用约定

1. 初步分析

某进程崩溃必现。
打开崩溃dmp，结合c++源代码，崩溃大致发生在某dll代码里的这句：SAFE_DELETE(pContentData);

En_HP_HandleResult CTcpOperation::OnClintReceive(HP_Client pSender, HP_CONNID dwConnID, const BYTE * pdata, int iLength)
{
        LOG_INFO(_T("Client OnReceive iLength is %d"), iLength);
        if (iLength == sizeof(STcpTransferData))
        {
                LPVOID pVoidTemp = nullptr;
                STcpTransferData cTransferData;
                memmove(&cTransferData, pdata, sizeof(STcpTransferData));

                if (CTcpOperation::GetInstance()->CheckAndSetData(ETransferType::SenddataLength, cTransferData, dwConnID, pVoidTemp))//单条数据总大小
                {
                        HP_Client_SetExtra(pSender, pVoidTemp);
                        LOG_INFO(_T("OnClintReceive new message set length"));
                        ret