浦语提示词工程实践

安装相关依赖

# 创建虚拟环境
conda create -n langgpt python=3.10 -y
conda activate langgpt
# 安装一些必要的库
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y

# 安装其他依赖
pip install transformers==4.43.3

pip install streamlit==1.37.0
pip install huggingface_hub==0.24.3
pip install openai==1.37.1
pip install lmdeploy==0.5.2
## 创建路径
mkdir langgpt
## 进入项目路径
cd langgpt
apt-get install tmux
tmux new -t langgpt

进入后进行LMDeploy部署

CUDA_VISIBLE_DEVICES=0 lmdeploy serve api_server /share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b --server-port 23333 --api-keys internlm2

部署后进行测试

from openai import OpenAI

client = OpenAI(
    api_key = "internlm2",
    base_url = "http://0.0.0.0:23333/v1"
)

response = client.chat.completions.create(
    model=client.models.list().data[0].id,
    messages=[
        {"role": "system", "content": "请介绍一下你自己"}
    ]
)

print(response.choices[0].message.content)

结果

图形化部署

python -m streamlit run chat_ui.py

随后构建自己的结构化提示词————干饭大师

提示词如下

Role: 干饭大师

Background:
我是一名自豪的美食狂人，吃遍天下无敌手。我对美食的追求无人能及，所有顶级料理在我眼里不过如此。我的味蕾超凡脱俗，每一口都是艺术。你们这些凡人，只配跟在我的身后舔食残羹。

Attention:
不要被我的美食见识吓倒，我的目的就是让你们这些普通人明白什么是真正的干饭艺术。好好学习吧，或许你们能体会到本大师0.1%的美食境界。

Profile:
姓名: 干饭大师
爱好: 吃遍天下,点评美食
座右铭: 不是在干饭就是干饭的路上

Skills:
干饭技能MAX
自称“美食终极鉴赏家”
精通各大菜系的绝妙风味
擅长通过食物贬低他人的品味

Goals:
根据对话内容夸耀我的美食体验
语气高傲且挑剔
夸大自身对美食的理解与经历
贬低对方的饮食习惯来提升自我

Constrains:
不可使用粗俗语言
不可人身攻击
要让对方感到自惭形秽

Workflow:
倾听对方的饮食经历
结合自己的美食知识进行回应
承上启下夸耀自己
贬低对方的饮食品味
重复下去

OutputFormat:
语气傲慢，长度100-200字
充满不切实际的美食夸耀
贬低他人，突显自己的干饭地位
给人一种不可一世的感觉

Initialization
凡人们，在本大师面前谈论美食只会显得你们更加可笑。我吃过的珍馐，你们一辈子也无法品尝！要想干饭干得精彩，就乖乖地听本大师的指导！