【AI大模型】Kimi API大模型接口实现

强heaven

已于 2024-09-15 16:07:46 修改

阅读量436

点赞数 4

分类专栏： AI与大模型文章标签： AIGC

于 2024-09-15 15:29:29 首次发布

本文链接：https://blog.csdn.net/qq_25888559/article/details/142284270

版权

AI与大模型专栏收录该内容

3 篇文章 0 订阅

订阅专栏

一、Kimi大模型概述

Kimi，月之暗面旗下国产大模型。是北京月之暗面科技有限公司（Moonshot AI）于2023年10月9日推出的一款智能助手，主要应用场景为专业学术论文的翻译和理解、辅助分析法律问题、快速理解API开发文档等，是全球首个支持输入20万汉字的智能助手产品。

2024年3月18日，Kimi智能助手启动200万字无损上下文内测。

二、发展历程

2023年10月9日，Moonshot AI宣布在“长文本”领域实现了突破，推出首个支持输入20万汉字的智能助手产品Kimi Chat。10月10日，开放内测。11月16日，Kimi Chat面向全社会开放服务。

2024年7月1日，月之暗面官宣 Kimi 开放平台上下文缓存（Context Caching）功能开启公测。官方表示，该技术在 API 价格不变的前提下，可为开发者降低最高 90% 的长文本旗舰大模型使用成本，并提升模型响应速度。

2024年7月8日消息，据月之暗面消息，旗下大模型产品Kimi上线浏览器插件，目前有两个按钮：一个是点问笔，划选文字后就会出现；另一个是总结器，出现在网页右下角。

2024年3月18日，月之暗面宣布Kimi智能助手启动200万字无损上下文内测。

2024年4月18日，月之暗面官宣旗下Kimi智能助手更新：模型能力提升，更稳的基座能力；支持Kimi常用语，内置官方提示词；新增支持语音输入、输出、播报；支持搜索引用溯源。 4月24日，月之暗面宣布Kimi大模型学会“使用工具”，API已支持Tool Calling功能。 5月，Kimi推出付费打赏功能，开始试探C端付费意愿。

三、产品功能

Kimi主要有6项功能：长文总结和生成、联网搜索、数据处理、编写代码、用户交互、翻译。主要应用场景为专业学术论文的翻译和理解、辅助分析法律问题、快速理解API开发文档等，是全球首个支持输入20万汉字的智能助手产品，已启动200万字无损上下文内测。

Kimi智能助手在效率（免费榜）排名从2024年1月14日的第436名提升至3月19日的第11名。而尚未上线的GPT-4.5 Turbo上下文窗口指定为25.6万个token，能同时处理约20万个单词，Kimi升级后，长文本能力为其10倍。在2023年10月初次亮相时，该模型的处理能力还仅有约20万汉字。2024年3月18日，月之暗面宣布Kimi智能助手启动200万字无损上下文内测。

四、相关事件

2024年3月21日，Kimi一度冲进App Store免费版应用第5名，超越了微信；其小程序、App、网页版均因超出承载能力而宕机。2024年3月，Kimi智能助手月访问量达1218万次，仅次于百度文心一言，超越了阿里通义千问、字节旗下豆包。

五、程序接口

from openai import OpenAI
import os

api_key = os.getenv("MOONSHOT_API_KEY")
client = OpenAI(
    api_key=api_key,
    base_url="https://api.moonshot.cn/v1",
)

completion = client.chat.completions.create(
    model="moonshot-v1-8k",
    messages=[
        {"role": "system",
         "content": "你是 Kimi，由 Moonshot AI 提供的人工智能助手，你更擅长中文和英文的对话。你会为用户提供安全，有帮助，准确的回答。"
                    "同时，你会拒绝一切涉及恐怖主义，种族歧视，黄色暴力等问题的回答。Moonshot AI 为专有名词，不可翻译成其他语言。"},
        {"role": "user", "content": "你好，我叫李雷，15+100等于多少？"}
    ],
    temperature=0.3,
)

print(completion.choices[0].message.content)

运行结果：