使用gdb调试C++程序的汇编代码

本文将要学习如何使用gdb调试C++程序的汇编代码。

示例代码

/**********************
*
* Demo: Test for debug 
*       asssembly code
*
* PerfMan create this 
**********************/
#include <iostream>
using namespace std;

uint64_t func2(uint64_t p1, uint64_t p2, uint64_t p3, uint64_t p4, uint64_t p5, uint64_t p6)
{
    static uint64_t i = 0;
    i += p1 + p2 + p3 + p4 + p5 + p6;
    cout << i << endl;
    return i;
}

uint64_t func3(uint64_t p1, uint64_t p2, uint64_t p3, uint64_t p4)
{
    static uint64_t i = 0;
    i += p1 + p2 + p3 + p4;
    cout << i << endl;
    return i;
}

void func1()
{
    uint64_t p1 = 0xFFFFFFFFFFF1;
    uint64_t p2 = 0xFFFFFFFFFFF2;
    uint64_t p3 = 0xFFFFFFFFFFF3;
    uint64_t p4 = 0xFFFFFFFFFFF4;
    uint64_t p5 = 0xFFFFFFFFFFF5;
    uint64_t p6 = 0xFFFFFFFFFFF6;
    uint64_t r2 = func2(p1, p2, p3, p4, p5, p6);
    uint64_t r3 = func3(p1, p2, p3, p4);
    cout << r2 + r3 << endl;
}

int main()
{
    func1();
    return 0;
}

CPU架构：INTEL X86_64

操作系统：Linux

编译器：g++

编译指令：g++ test.cpp -o test -O2 -g

调试步骤

步骤一：使用gdb打开可执行程序

命令：gdb -tui test

步骤二：显示汇编代码

命令：(1) set disassembly-flavor intel            -- 设置汇编语法风格为INTEL汇编风格

           (2) layout split                                      -- 分屏显示C++代码和汇编语言代码

图1 显示汇编语言代码

步骤三：设置断点并运行程序

命令：(1) b 35                 -- 在函数func1中调用func2处设置断点

           (2) r                       -- 运行程序

         （3）ni                   -- 执行多次ni，直到运行到图中显示的汇编代码处

图2 查看存放参数的寄存器内容

从图2中的汇编语言可知，在调用func2之前要将其整形的参数提前放入寄存器中，参数和寄存器的对应关系如下:

表1 函数参数与寄存器对应表

参数	寄存器	备注
p1	rdi	第一个参数
p2	rsi	第二个参数
p3	rdx	第三个参数
p4	rcx	第四个参数
p5	r8	第五个参数
p6	r9	第六个参数

在X86_64架构下，整数参数与寄存器的对应关系如上表所示，注意参数尽量不要超过6个，超过后会被放到栈中。

步骤四：通过汇编查看函数func2的返回值

命令：(1) b 16                  -- 在func2的最后一行代码处设置断点

           (2) ni                      -- 执行一条汇编指令

           (3) p/x $rax            -- 输出寄存器rax的值，也就是函数func2的返回值

           (4) p/x i                  -- 输出返回的C++变量值，与rax的值一样

图3 调试汇编查看函数func2的返回值

从图3的汇编代码可知，函数func2的返回值是放到寄存器rax中返回的。

通过以上的学习，我们知道了如何调试C++语言的汇编代码，以及会看寄存器的值，函数参数和返回值与寄存器的关系不是本文重点，后续会单独写文章学习此内容。