安装Orion-14B

前期部署工作：
conda create -n modelscope python=3.8
conda activate modelscope

部署：

1.参考文档：
1.1 https://blog.csdn.net/m0_46295727/article/details/133221439 Hugging Face 无法连接问题 OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file 解决方案
1.2 https://huggingface.co/docs/transformers/installation#offline-mode
2.https://blog.csdn.net/qq_50677040/article/details/132131346 Windows10下多版本CUDA的安装与切换超详细教程

3.https://blog.csdn.net/weixin_52231632/article/details/128734783 踩坑总结！Windows系统安装CUDA、cuDNN
4.https://blog.csdn.net/HaoZiHuang/article/details/125795675 找不到 cl.exe 解决办法
5.https://blog.csdn.net/j1829634/article/details/125581885 项目复现-nvdiffrec
5.1 fatal error C1083: 无法打开包括文件: “cutlass/cutlass.h”: No such file or directory
随后在tiny-cuda-nn项目issue中找到答案，该项目需要拉取一个子模块cutlass，而单纯使用git clone或者下载项目zip无法拉取到该模块文件，需要使用git clone --recursive这个选项才行，重新克隆项目又出现下载不了子模块的问题
秦晓琰的解决办法：使用以下命令
前提：pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
$ git clone -b v1.0.9 --recursive https://github.com/Dao-AILab/flash-attention.git
2.需要安装包
1.$ git clone -b v1.0.9 --recursive https://github.com/Dao-AILab/flash-attention.git 先拉下来包
进到目录进行：python setup.py install
2.pip install accelerate