《实战AI模型》——赶上GPT3.5的大模型LLaMA 2可免费商用，内含中文模型推理和微调解决方案

目录

准备环境及命令后参数导入：

导入模型：

准备LoRA：

导入datasets：

配置Config：

开启微调：

可视化：

资源消耗

---

近期，Facebook母公司Meta发布其首个开源可商用大语言模型LLama 2。据悉，LLama 2是Meta大语言模型Llama模型的最新商用版本，也是Meta首个免费商用的大语言模型。

 

魔搭社区第一时间针对LLama 2 系列模型的推理和微调做了适配，让开发者可以第一时间玩起来Llama 2。

环境配置与安装

1. 本文可在单卡3090的环境配置下运行 (显存要求16G)

2. python>=3.8

服务器连接与环境准备

# 服务器连接 (CentOS)
ssh root@xxx.xxx.xxx.xxx  # 可通过vscode连接
passwd  # 修改root密码
lsb_release -a  # 查看操作系统版本

# 安装git并配置
yum install git
git config --global user.name "llama2" 
git config --global user.email "llama2@abc.com"
git config --global init.defaultBranch