书生浦语大模型实战训练营第3期作业（八）

XTuner 微调个人小助手认知任务

记录复现过程并截图。

基础任务（完成此任务即完成闯关并获得 100 算力点）

• 使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知，如下图所示（图中的伍鲜同志需替换成自己的昵称），记录复现过程并截图。
• mkdir -p /root/InternLM/Tutorial
  git clone -b camp3  https://github.com/InternLM/Tutorial /root/InternLM/Tutorial

• # 创建虚拟环境
  conda create -n xtuner0121 python=3.10 -y
  
  # 激活虚拟环境（注意：后续的所有操作都需要在这个虚拟环境中进行）
  conda activate xtuner0121
  
  # 安装一些必要的库
  conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y
  # 安装其他依赖
  pip install transformers==4.39.3
  pip install streamlit==1.36.0

• # 创建一个目录，用来存放源代码
  mkdir -p /root/InternLM/code

  cd /root/InternLM/code

  git clone -b v0.1.21  https://github.com/InternLM/XTuner /root/InternLM/code/XTuner

• # 进入到源码目录
  cd /root/InternLM/code/XTuner
  conda activate xtuner0121

  # 执行安装
  pip install -e '.[deepspeed]'

• 如果速度太慢可以换成 pip install -e '.[deepspeed]' -i https://mirrors.aliyun.com/pypi/simple/

• xtuner version

• 
• xtuner help
• 

• # 创建一个目录，用来存放微调的所有资料，后续的所有操作都在该路径中进行
  mkdir -p /root/InternLM/XTuner

  cd /root/InternLM/XTuner

  mkdir -p Shanghai_AI_Laboratory

  ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b Shanghai_AI_Laboratory/internlm2-chat-1_8b

• apt-get install -y tree

  tree -l

• 

streamlit run /root/InternLM/Tutorial/tools/xtuner_streamlit_demo.py