大语言模型
文章平均质量分 50
ybdesire
Talk is cheap. Show me the code.
展开
-
在python中指定pytorch训练时使用多块或某块GPU的方法
在python中指定pytorch训练时使用多块或某块GPU的方法原创 2024-06-11 23:30:00 · 540 阅读 · 1 评论 -
使用OpenVINO在本地CPU运行大模型的过程
本文在CPU上实测一下OpenVINO运行大模型ChatGLM3-6b的运行效果,并记录整个过程原创 2024-04-27 23:00:00 · 549 阅读 · 0 评论 -
在hf-mirror下载数据集的方式
在huggingface的替代网站hf-mirror上下载数据集的方式原创 2024-03-23 23:45:00 · 1389 阅读 · 0 评论 -
理解大模型训练中的 Pre-Training,Fine-Tuning,In-Context Learning,Reward Modeling,PPO,DPO,RLHF
大模型训练中的 Pre-Training,Fine-Tuning,In-Context Learning,Reward Modeling,PPO,DPO,RLHF的含义与区别。原创 2024-03-09 23:30:00 · 3005 阅读 · 0 评论 -
大模型训练所需的硬件配置
训练一个大模型,到底需要投入多少块GPU,需要多少数据,训练多长时间能达到一个不错的效果?原创 2024-02-11 09:30:00 · 4490 阅读 · 0 评论 -
使用gpu_burn对GPU进行压测
使用gpu_burn,能在命令行中,对服务器上的每一个GPU进行压力测试,得出其速度、温度等关键指标。原创 2024-02-07 23:45:00 · 3753 阅读 · 0 评论 -
LLaMA-Factory微调ChatGLM3报错: Segmentation fault (core dumped)
LLaMA-Factory微调ChatGLM3报错: Segmentation fault (core dumped)原创 2023-12-08 22:51:08 · 1267 阅读 · 1 评论 -
LLaMA-Factory用self_cognition数据微调ChatGLM2后,CLI运行输出乱码和报错 IndexError: piece id is out of range
LLaMA-Factory用self_cognition数据微调ChatGLM2后,CLI运行输出乱码和报错 IndexError: piece id is out of range原创 2023-12-08 22:49:35 · 1118 阅读 · 0 评论 -
基于LLaMA-Factory用deepspeed多GPU训练大模型报错Caught signal 7 (Bus error: nonexistent physical address)
基于LLaMA-Factory用deepspeed多GPU训练大模型报错Caught signal 7 (Bus error: nonexistent physical address)的解决方法原创 2023-12-21 23:45:00 · 2698 阅读 · 2 评论 -
LLaMA-Factory如何对Tokenization步骤提速
LLaMA-Factory如何对Tokenization步骤提速原创 2023-12-21 23:30:00 · 1115 阅读 · 0 评论 -
LLaMA-Factory使用V100微调ChatGLM2报错 RuntimeError: “addmm_impl_cpu_“ not implemented for ‘Half‘
V100微调ChatGLM2报错 RuntimeError: "addmm_impl_cpu_" not implemented for 'Half'原创 2023-11-25 23:15:00 · 4692 阅读 · 1 评论 -
替代huggingface下载大模型的站点
替代huggingface下载大模型的站点原创 2023-11-11 23:45:00 · 1528 阅读 · 0 评论 -
快速下载ChatGLM系列模型
如何快速下载ChatGLM2模型原创 2023-11-11 23:30:00 · 927 阅读 · 0 评论 -
OpenAI接口Completion和ChatCompletion的区别与使用方法
OpenAI有两个重要的接口,一个是`openai.Completion.create`,另一个是`openai.ChatCompletion.create`。那么问题来了,这两个接口有什么区别呢?还有他们使用的参考代码是什么样呢?原创 2023-10-14 17:45:20 · 6654 阅读 · 1 评论