自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(5)
  • 收藏
  • 关注

原创 03 LMDeploy部署 Llama 3 模型

由于先前已经下载配置好环境和下载好了模型文件,在此就不重复下载了。接下来连接api接口。

2024-05-09 21:08:15 195

原创 02 XTuner 微调小助手认知

使用官方准备好的配置文件进行训练。目录下的gdata.py。

2024-05-06 01:28:07 147

原创 01 Llama3部署

Llama3部署。

2024-05-06 01:26:18 364

原创 02 XTuner 微调小助手认知

打开 `home\daoer\Llama3-Tutorial\tools` 目录下的gdata.py。# 开始训练,使用 deepspeed 加速,RTX3060 12G显存 耗时28分钟。# Adapter PTH 转 HF 格式。使用官方准备好的配置文件进行训练。### 1. 自我认知数据集。### 2. 模型微调。### 3. 推理验证。

2024-05-05 02:08:05 542 3

原创 01 Llama3部署

由于在本地部署,使用官网的下载链接下载失败,所以去了modelscope下载了模型。# 再创建model目录拉取Meta-Llama-3-8B-Instruct。### 3. 部署Web Demo。最后安装提供的Web demo。运行web_demo.py。# 安装Web Demo。### 1. 配置环境。### 2. 下载模型。# 安装XTuner。

2024-05-05 02:07:33 557 3

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除