- 博客(3)
- 收藏
- 关注
RSS订阅原创 【大模型指令微调: 从零学会炼丹】第三章: Q-LoRa 微调phi-3.5-mini
我们将在本文中完成对phi-3.5-mini 的Q-Lora训练, 这在垂直领域的部署中格外的重要, 相应的其他模型的训练方法也可以参照本实验
2024-10-01 21:34:09
795
原创 【大模型指令微调: 从零学会炼丹】第二章: 数据集预处理
文章简述了fine-tune 前的数据预处理步骤, 包括了序列化, 模版拼接等步骤,以及遇到的显存溢出问题分析
2024-09-30 15:21:21
408
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人