今天在写大模型量化推理框架时遇到了一些编译上的错误,简单复盘一下问题和解决方案:
问题1:CMAKE_CUDA_ARCHITECTURES
报错信息:
CMake Error: CMAKE_CUDA_ARCHITECTURES must be non-empty if set
cmake和cuda相关的报错通常都很“调虎离山”。
当出现这个报错时,本质问题并不是没有指定所谓的cuda architecture参数,而是找不到nvcc路径。
那么解决方案就是在环境变量中添加nvcc的路径:
export PATH="$PATH:/usr/local/cuda/bin"
export LD_LIBRARY_PATH=<