这里写自定义目录标题
第三期书生大模型实战营
浦语提示词工程实践
图片: 环境配置 激活环境后,安装必要的Python包,依次运行下面的命令
激活环境 安装包
安装必要软件
运行下面的命令安装必要的软件:
apt-get install tmux
运行python
测试模型:
from openai import OpenAI
client = OpenAI(
api_key = “internlm2”,
base_url = “http://0.0.0.0:23333/v1”
)
response = client.chat.completions.create(
model=client.models.list().data[0].id,
messages=[
{“role”: “system”, “content”: “请介绍一下你自己”}
]
)
print(response.choices[0].message.content)
1.3 图形化界面调用
InternLM部署完成后,可利用提供的chat_ui.py创建图形化界面,在实战营项目的tools项目中。
git clone https://github.com/InternLM/Tutorial.git
python -m streamlit run chat_ui.py
参考L0/Linux的2.3部分进行端口映射,在本地终端中输入映射命令