为了方便分析openssl的code,单步的debug也许是一个不错的方式,这样可以很清楚的看到每一步各个变量的值,相关的状态,尤其是通过IDE工具的debug,对于gdb不熟的同学来说绝对是非常的方便。
openssl 可以在windows下编译,所以当然也能在windows下用VS debug。但是因为openssl的编译是通过Makefile的方式,不是建了一个VS的solution,所以不能很方便的可视化的加个断点,然后 F5就开始debug。但是VS的断点原理也很简单,就是插入一条软件中断的汇编,于是我们也效仿之。
在想要调试的地方,插入一条这样的汇编。
__asm int 3
注 意结尾没有分号。然后在重新编译。完成之后运行编译好的openssl.exe加上必要的参数,如果程序运行到断点所在的行,就会中断,并弹出询问是否要 debug还是close。选择debug,则会选用系统的默认debug tool来进行debug。在我的系统上,自动调出来VS2005来调试,然后就可以使用VS的debug功能来debug openssl了。
另 外,默认的openssl makefile是没有不会link source code到编译之后的debug文件中的,所以我们得手动修改ms/nt.make中的CFLAGS,加上/Zi 这个编译选项,然后才能在debug的时候看到source code,否则就只能看到汇编了。