Llama3-8B-Chinese-Chat 第一个使用ORPO微调的中文Llama3模型
1. 简介和下载链接
我们最新提供了GGUF版本的Llama3-8B-Chinese-Chat模型,共有FP16和8bit量化两个版本可选,模型下载链接如下:
FP16版本:
https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat-GGUF-fp16huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat-GGUF-fp16
8bit量化版本:
https://huggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat-GGUF-8bithuggingface.co/shenzhi-wang/Llama3-8B-Chinese-Chat-GGUF-8bit
如题目所示,我们开源了Llama3-8B-Chinese-Chat模型(基于Llama3-8B-Instruct[1]微调,模型下载请详见下面的huggingface链接),这是第一个使用ORPO微调的中文Llama3模型。
根据我们的测试,相较于Meta开源的Llama3-8B-Instruct,我们的Llama3-8B-Chinese-Chat模型有以下优点:
- 不会出现Llama3-8B-Instruct中经常出现的中文问题英文回答的问题;
- 不会出现Llama3-8B-Instruct中经常出现的中英