问题描述
提示:
微调llama时报错提示:
/tmp/tmp dma5xkns/main.c:354:3: error: ‘for’ loop initial declarations are only allowed in C99 mode for (Py_ssize_t i = 0; i < len; i++)
error: ‘for’ loop initial declarations are only allowed in C99 mode
subprocess.CalledProcessError: Command '['/usr/bin/gcc', '/tmp/tmpdma5xkns/main.c', '-O3', '-I/XXX/XXX/anaconda3/envs/llama_env/lib/python3.11/site-packages/triton/common/../third_party/cuda/include', '-I/XXX/XXX/anaconda3/envs/llama_env/include/python3.11', '-I/tmp/tmpdma5xkns', '-shared', '-fPIC', '-lcuda', '-o', '/tmp/tmpdma5xkns/cuda_utils.cpython-311-x86_64-linux-gnu.so', '-L/lib64', '-L/lib', '-L/lib64', '-L/lib']' returned non-zero exit status 1.
原因分析:
这是因为编译器默认使用了较旧的C标准,不支持在for循环中声明变量。
解决方案:
报错提示问题出现在subprocess.py中,subprocess.py是在以下文件中调用的,所以需要在/XXX/XXX/anaconda3/envs/llama_env/lib/python=3.11/site-packages/triton/common/build.py中修改,分别在97行和102行的src后面加上"std=c99"即可,代表执行C99标准。
说明:/XXX/XXX/代表你的anaconda的路径。