使用 IDA 和 windbg 调试 LNK1123 转换到 COFF 期间失败:文件无效或损坏(下)
前言
在前面两篇文章中(这里,这里)总结了使用 windbg
和 IDA
找出 cvtres.exe
报错的根本原因,并把一些细节问题弄清楚了。但是还剩下一个小细节没有深究 —— 如果启动 cvtres.exe
的时候没有指定全路径,windbg
会报系统找不到指定的文件的错误。当时只是根据经验判断需要使用完整路径,但是为什么只使用文件名不行呢?今天就把这个问题也格尽。
说明: 写完本文,我犹豫了很久要不要发表出来。因为这个问题其实很简单(在设置
PATH
环境变量时,路径多加了双引号)。但是当时的我真的是当局者迷,完全没意识到这个问题,导致花费了很长时间。process monitor
,gflag
,IDA
,windbg
,轮番上场,甚至都调试起windbg
来了(嗯,你没看错,不是用windbg
调试,而是调试windbg
),好一阵忙活,中间还走了很多弯路(自以为是的在错误的函数中下断)。最后幡然醒悟,原来真理就在那躺着,静静的等着被发现。之所以决定发出来有几点原因:
- 介绍了让进程自动中断到调试器中的方法,甚至是让一个调试器自动中断到另外一个调试器中的方法。
- 介绍了只对特定线程设置断点的方法、使用
wt
追踪函数调用的方法等。- 提醒自己,在调试过程中一定要保持清醒的头脑。
没耐心的朋友直接跳到最后即可。
问题回顾
相信小伙伴儿们都已经知道可以通过 gflags
设置 Image File Execution Option
来让指定程序启动时自动中断到调试器。但是当启动 cvtres.exe
的时候,如果只指定文件名,windbg
会报错。报错截图如下:
猜测应该是 windbg
在创建进程的时候根据文件名不能找到相应的应用程序。
我依稀记得创建进程时,CreateProcess()
会到 PATH
环境变量指定的路径中查找文件。所以我在脚本开始的地方把 cvtres.exe
所在的路径添加到 PATH
环境变量。使用 process explorer
查看 windbg
对应的 PATH
环境变量的值,发现 PATH
环境变量已经包含了 cvtres.exe
所在的路径。因为 PATH
环境变量太长了,我把它拷贝到文件中并省略了大部分:
提示: 注意上图中高亮部分。一切皆因它而起。