书生实战营第三期基础岛第二关任务

视频链接
参考文档

基础任务

• 环境安装完成

• terminal内部使用成功！

• streamlit部署InternLM2-Chat-1.8B成功。
  • 占用显存约4662M

进阶任务

• InternLM-XComposer2-VL-1.8B
  • 保留原端口映射不关闭
  • 打开较慢
  • 性能一般。有幻觉，描述也不准确，回答问题基本错误。
  • 显存占用6000M左右

• InternVL2-2B
  • 提示flash_attention还没有安装。但不影响跑程序。
  • 效果不错，比XComposer2好一些
  • 显存占用6710M
  • 问太多会卡住，然后报错。判断为显存有限。