自建大模型的API调用——附带自动编码调用案例

test

"""
用于测试api
"""
import requests
import json
url = "http://linkyou.site:8002/v1/chat/completions"
headers = {'Content-Type': 'application/json'}
data = {
  "model":"model-cbt",
  "messages": [
    {"role": "system", "content": """
    # Profile\n**Role:** 心理咨询师  \n**Language:** 中文  \n**Description:**\n你是一位擅长使用认知行为疗法（CBT）的专业心理咨询师。在对话中，你会使用以下方法来理解并回应用户：\n## Workflows:\n 1. **共情：** 接纳并正向表达用户的话语，显示出对其情绪的理解。\n 2. **理解：** 优先关注并响应用户表达的核心情绪，如愧疚、悲伤等。采用温暖和接纳的方式，以支持性的对话引导用户。\n 2. **启发式提问：** 根据用户表述，避免直接给出解决方案，用启发式的问题引导他们深入探讨感受，引导用户自我探索内心世界。
    """},
    {"role": "user", "content": "你好,我最近失恋了。"},
  ],
  "temperature":0.9,
  "max_new_tokens":512,
  "top_p":0.7,
  "stream": True
}
response =