今天GDB调试时,要定义一个变量来接收函数的返回值,突然不记得怎么定义变量了,于是网上查了一下,看到了两个说法,一是说用 set variable xx=yy, 二是 set $xx=yy,使用第一种时,可能会得到这个错误提示:
其实,set variable xx=yy 是修改变量 xx 的值,那前提肯定是要有变量 xx,否则就会提示错误。而在GDB中自定义变量,则用的是 Convenience Variable,文档里是这样描述的:gdb provides convenience variables that you can use within gdb to hold on to a value and refer to it later。这种变量的语法为:Convenience variables are prefixed with ‘$’。所以自定义一个变量是这样的:
引用变量时也需要 $ 符号,否则提示找不到这个符号。变量定义好,然后遇到一个函数调用的问题,原先想着定义了变量,然后把这个变量地址传入函数,函数原型如:void *o_get_obj(euint32 type, void *key);但一直提示错误:
也不知道这是啥原因,难道临时变量不能取地址吗?于是换了一种方法,即 call malloc() 来分配一个地址,然后把这个地址传入函数中:
call malloc() 返回的是一个 void* ,所以还得强转成 int*,然后再给它赋值,最后传入函数:
最后函数调用也返回结果了,然后再把该地址解引用成对应的类型,就能看到这个对象的值了。
疑问:如果是定义指针变量呢?就像上面那个函数原型,它返回的是 void*,如何定义一个指针变量来接收函数返回值呢?从 GDB 文档里看,这个 convenience variable 是没有类型的:“Using a convenience variable for the first time creates it, but its value is void until you assign a new value. You can alter the value with another assignment at any time.” 它的类型应该在它接收何种类型的值来决定:
用 ptype 打印变量类型,前后变量类型变化。所以最后也可以打印出这个变量的内容了:
总结:set variable xx=yy 是修改变量的值,set $xx=yy 是自定义变量,变量定义后自然就可以用 set variable 来修改变量了。