Qt可用的gdb编译，以及交叉编译gdbserver，以及配置QtCreator远程调试

项目中用了ARM的板，希望配置gdbserver进行远程调试，结果却遇到了很多问题。先把坑说了：

1）要支持远程调试，arm板需要支持ssh

2）要gdb能在Qt上用，必须在configure gdb的时候使用--with-python选项启用python支持

3）需要安装python-dev（2.7的包，不是3的），但是即使装了也可能链接失败，报PyUnicodeUCS2_????函数没有找到，需要define Py_UNICODE_WIDE

4）要成功启动远程调试，gdb和gdbserver必须是同一份源码编译出来的，而且make install之后的share目录也是必须的，否则gdb就不能正常启动

步骤一：编译gdb

python支持是gdb自带的，但是默认不开启，而python支持是Qt要求的，所以configure的时候使用--with-python将python支持打开，具体命令如下：

./configure CFLAGS="-O3" CXXFLAGS="-O3" --target=arm-linux --prefix=/opt/arm-linux-gdb/ --with-python     ————————命令(1)

这里--target后面是交叉编译工具链的前缀，比如交叉编译工具链的gcc是arm-linux-gcc，那就是arm-linux，--prefix是make install的目录。另外加了-O3增强了编译优化，而且没有了-g，取消了调试信息的生成。

但是configure之后make却可能报PyUnicodeUCS2_????函数没有找到的链接错误，这是因为python-dev的库里的函数是PyUnicodeUCS4_????。在include/python-2.7/unicodeobject.h里根据是否有定义Py_UNICODE_WIDE，将PyUnicode_???定义为PyUnicodeUCS2_????或PyUnicodeUCS4_????。但是，unicodeobject.h用的可能是交叉编译工具链目录下的文件，而不是python-dev包里的文件，所以直接改文件并不好，既然知道是根据否有定义Py_UNICODE_WIDE控制的函数名，在CFLAGS和CXXFLAGS中使用-D选项定义Py_UNICODE_WIDE就好了。所以，命令变为

./configure CFLAGS="-DPy_UNICODE_WIDE -O3" CXXFLAGS="-DPy_UNICODE_WIDE -O3"  --target=arm-linux --prefix=/opt/arm-linux-gdb/ --with-python     ————————命令(2)

如果没报链接错误，那么so中的函数就是PyUnicodeUCS2_????的了。如果需要先判断python-dev里的函数到底是2还是4，不想出错之后再来折腾，就需要找到libpython2.7.so的绝对路径，然后使用nm -D ???/libpython2.7.so | grep PyUnicode来查看so中的函数名是2还是4了。我在Ubuntu 14.04中的路径是/usr/lib/x86_64-linux-gnu/libpython2.7.so。

文末给出了完整的编译脚本，脚本是通过输出一个check.c，编译后执行，程序使用dlopen打开libpython2.7.so，并且尝试获取PyUnicodeUCS4_Decode的函数地址，如果能拿到就代表so的函数名是4，否则就是2。

建议使用make -j4或者-j8进行并发编译，虽然GDB的源码包不大（8.1的是37M），但是编译却需要出奇长的时间。make完之后make install，可以在/opt/arm-linux-gdb看到gdb的程序

步骤二：编译gdbserver

编译gdbserver，先切换目录到gdb/gdbserver，然后使用如下命令configure：

./configure CFLAGS="-O3" CXXFLAGS="-O3" --target=arm-linux --prefix=/opt/arm-linux-gdb/ --host=arm-linux  ----命令（3）

这里多了--host，代表gdbserver是在arm中运行的。configure之后可以make -j4和make install，没什么坑。最后arm-linux-gdbserver也是放到/opt/arm-linux-gdb/bin中，改名为gdbserver。

步骤三：建议压缩编译出来的可执行文件

切换到/opt/arm-linux-gdb/bin中，执行如下语句压缩可执行文件：

strip arm-linux-gdb arm-linux-run   ----命令（4）
arm-linux-strip gdbserver           ----命令（5）

strip是gcc套装里的一个工具，肯定有的，压缩运行在本地的arm-linux-gdb和arm-linux-run，arm-linux-strip在交叉编译工具链里，压缩运行在arm环境里的gdbserver。

步骤四：将新的gdb和gdbserver放入交叉编译工具链

这一步，将/opt/arm-linux-gdb/bin中arm-linux-gdb和arm-linux-run都拷贝到交叉编译工具链的bin目录，然后重点是要将/opt/arm-linux-gdb/share的内容也拷贝放入交叉编译工具链的share目录，否则gdb无法运行。然后下载gdbserver到arm系统的/usr/bin目录，gdbserver就成了命令可以直接运行了，不需要用/usr/bin/gdbserver或者./gdbserver来运行，或者设置链接了。

步骤五：配置QtCreator

首先配置调试器，找到新编译出来的arm-linux-gdb：

然后是配置构建套件，在调试器里选刚才配置的调试器名称

配置arm板的设备，确保arm板支持ssh，填好信息之后点test看看能不能连上

然后就可以开始调试了

最后给出完整的编译脚本，将gdb源码解压出来，把脚本放进去，使用chmod 777设置好权限，一键做完全部步骤，当然配置QtCreator还是要自己做的。编译脚本的make install目录就是/opt/arm-linux-gdb，交叉编译工具链的前缀是arm-linux，如果需要自定义的可以自己改。脚本的提示绿色是成功，红色是失败，黑色是其他的输出出问题再看吧。

#!/bin/bash
echo -e "\033[32m 正在执行步骤一：检查python-dev包 \033[0m"
chkpydev=$(dpkg -l | grep python-dev)
if [ "$chkpydev" == "" ]; then
	sudo apt-get install python-dev --force-yes
fi

echo "#include <stdio.h>" > check.c
echo "#include <dlfcn.h>" >> check.c
echo "int main() { void *handle; void *pPyUnicodeUCS4_Decode = NULL; handle = dlopen(\"libpython2.7.so\", RTLD_LAZY); if (!handle)return 1; dlerror(); pPyUnicodeUCS4_Decode = dlsym(handle, \"PyUnicodeUCS4_Decode\"); if (dlerror() != NULL)return 2; dlclose(handle); return 3; }" >> check.c
gcc -rdynamic -o check check.c -ldl && ./check
checkpy=$?
rm check
rm check.c

echo -e "\033[32m 正在执行步骤二：gdb的configure \033[0m"
case $checkpy in
    1)
	echo "没有找到libpython2.7.so"
	exit
    ;;
    2)
	./configure CFLAGS="-O3" CXXFLAGS="-O3" --target=arm-linux --prefix=/opt/arm-linux-gdb/ --with-python
    ;;
    3)
	./configure CFLAGS="-DPy_UNICODE_WIDE -O3" CXXFLAGS="-DPy_UNICODE_WIDE -O3" --target=arm-linux --prefix=/opt/arm-linux-gdb/ --with-python
    ;;
esac

echo -e "\033[32m 正在执行步骤三：编译和安装gdb \033[0m"
make -j8
if [ $? -eq 0 ]; then
    make install
    echo -e "\033[32m gdb已安装到/opt/arm-linux-gdb/目录下 \033[0m"
else
    echo -e "\033[31m gdb编译失败 \033[0m"
    exit
fi

echo -e "\033[32m 正在执行步骤四：gdbserver的confiure \033[0m"
cd gdb/gdbserver
./configure CFLAGS="-O3" CXXFLAGS="-O3" --target=arm-linux --prefix=/opt/arm-linux-gdb/ --host=arm-linux
 
echo -e "\033[32m 正在执行步骤五：编译和安装gdbserver \033[0m"
make -j8
if [ $? -eq 0 ]; then
    make install
    echo -e "\033[32m gdbserver已安装到/opt/arm-linux-gdb/目录下 \033[0m"
else
    echo -e "\033[31m gdbserver编译失败 \033[0m"
    exit
fi

echo -e "\033[32m 正在执行步骤六：压缩可执行文件，将gdb放入交叉编译工具链 \033[0m"
cd /opt/arm-linux-gdb/bin/
cp arm-linux-gdbserver gdbserver
arm-linux-strip gdbserver
echo "arm-linux-strip gdbserver"
strip arm-linux-gdb arm-linux-run
echo "strip arm-linux-gdb arm-linux-run"
gdb_path=$(which arm-linux-gdb)
cross_path=${gdb_path%/*}/..
mv $(which arm-linux-gdb) $cross_path/bin/arm-linux-gdb.bk
echo "mv $cross_path/bin/arm-linux-gdb $cross_path/bin/arm-linux-gdb.bk"
cp arm-linux-gdb $cross_path/bin
echo "cp arm-linux-gdb $cross_path/bin"
mv $(which arm-linux-run) $cross_path/bin/arm-linux-run.bk
echo "mv $cross_path/bin/arm-linux-run $cross_path/bin/arm-linux-run.bk"
cp arm-linux-run $cross_path/bin
echo "cp arm-linux-run $cross_path/bin"
cd ..
cp -rf share $cross_path
echo "cp -rf share $cross_path"
echo -e "\033[32m 已经将新的arm-linux-gdb放入交叉编译工具链目录$cross_path/bin \033[0m"
echo -e "\033[32m 完成 \033[0m"