Python调用NVIDIA的Deepseek-r1接口

原创

已于 2025-02-02 13:51:46 修改 · 441 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#python #android #javascript

于 2025-02-02 13:51:31 首次发布

import os
import json
from openai import OpenAI
from openai import OpenAIError

client = OpenAI(
  base_url = "https://integrate.api.nvidia.com/v1",
  api_key = os.getenv("NVIDIA_API_KEY")
)
# 初始化对话历史
# 定义存储对话历史的 JSON 文件路径
HISTORY_FILE = "conversation_history.json"

# 检查历史文件是否存在，如果存在则读取
if os.path.exists(HISTORY_FILE):
    choice = input("发现历史对话，你想接着上次继续（输入 '继续'），还是重新开始（输入 '重新开始'）？")
    if choice == "继续":
        with open(HISTORY_FILE, "r", encoding="utf-8") as f:
            messages = json.load(f)
    else:
        messages = []
else:
    messages = []


while True:
    # 获取用户输入
    user_input = input("请输入你的问题（输入 '退出' 结束对话）：")
    if user_input == "退出":
        break

    # 将用户输入添加到对话历史
    messages.append({"role": "user", "content": user_input})

    try:
        # 发送请求并流式获取响应
        completion = client.chat.completions.create(
            model="deepseek-ai/deepseek-r1",
            messages=messages,
            temperature=0.6,
            top_p=0.7,
            max