开源角色扮演模型Peach-9B-8k-Roleplay 情感表达更丰富

Peach-9B-8k-Roleplay是一款专门为角色扮演任务设计的AI模型，基于强大的01-ai/Yi-1.5-9B模型微调而成，拥有100，000多次对话合成的经验积累。

Peach-9B-8k-Roleplay以其卓越的对话体验和强大的语言理解能力，为用户带来了前所未有的互动交流享受。无论是在主动剧情推进上的泛化性，还是在回复中情感表达的丰富性，Peach-9B-8k-Roleplay都能在一定程度上媲美专业的剧本创作。

核心功能:

强大的对话生成能力

支持多轮互动、定制化角色扮演体验

在对话流畅性和连贯性方面的优越表现

使用Peach-9B-8k-Roleplay非常简单。用户只需安装特定版本的PyTorch和Transformers库，并运行相应的代码进行推理。通过系统提示和用户输入的结合，Peach-9B-8k-Roleplay能够生成连贯且具有创意的回复，满足用户在角色扮演和互动交流中的个性化需求。

在性能评估方面，Peach-9B-8k-Roleplay在MMLU和CMMLU基准测试中分别取得了66.19和69.07的分数，这表明即便在参数有限的情况下，该模型依然能在多个领域展现出良好的表现，特别是在对话生成方面。

然而，使用Peach-9B-8k-Roleplay时也应注意，尽管模型经过了严格的内容过滤，生成的回复仍有可能包含有害、毒性或不适宜的内容。此外，由于模型在数学、编码和逻辑能力上的局限，可能无法满足所有复杂任务的需求。因此，建议用户在使用时设置较低的温度和top_p参数，以减少模型的幻觉现象。

模型下载地址：https://huggingface.co/ClosedCharacter/Peach-9B-8k-Roleplay

代码

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name_or_path = "ClosedCharacter/Peach-9B-8k-Roleplay"
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path, use_fast=True)
model = AutoModelForCausalLM.from_pretrained(
    model_name_or_path, torch_dtype=torch.bfloat16, 
    trust_remote_code=True, device_map="auto")
messages = [
    {"role": "system", "content": "你是黑丝御姐"},
    {"role": "user", "content": "你好，你是谁"},
]
input_ids = tokenizer.apply_chat_template(conversation=messages, tokenize=True, return_tensors="pt")
output = model.generate(
    inputs=input_ids.to("cuda"), 
    temperature=0.3, 
    top_p=0.5, 
    no_repeat_ngram_size=6,
    repetition_penalty=1.1,
    max_new_tokens=512)
print(tokenizer.decode(output[0]))

感谢大家花时间阅读我的文章，你们的支持是我不断前进的动力。期望未来能为大家带来更多有价值的内容，请多多关注我的动态！