go调用腾讯混元大模型

go-easy-llm

点击 github go-easy-llm 查看更多

一个满足你的调用多种大模型API的轮子，支持目前市面多家第三方大模型，包含ChatGPT、通义千问、文心大模型、混元、盘古、百川智能等； 一套写法兼容所有平台，简单配置即可灵活使用第三方大模型API。

简单几步即可使用第三方大模型API

混元大模型调用

创建密钥

通过这一步，你就会拿到腾讯的 secretId、secretKey，主要用于鉴权使用

引入go-easy-llm

go get github.com/soryetong/go-easy-llm

导入配置

这里填入你创建密钥时获取到的 secretId、secretKey

config := easyllm.DefaultConfigWithSecret("your-secretId", "your-secretKey", easyai.ChatTypeHunYuan)

创建 Chat 客户端

client := easyllm.NewChatClient(config)

调用 Chat 模式大模型

一次性回复 NormalChat

resp, reply, err := client.NormalChat(context.Background(), &easyai.ChatRequest{
    Model:   easyai.ChatModelQWenTurbo,
    Message: "请介绍一下自己",
})
// resp 为定义的通用类型, `easyai.ChatResponse`
// reply 为大模型返回的文本

流式回复 StreamChat

resp, err := client.StreamChat(context.Background(), &easyai.ChatRequest{
    Model:   easyai.ChatModelQWenTurbo,
    Message: "介绍一下你自己",
})

for content := range resp {
    fmt.Println(content)
}

通过以上简单几步，你就可以轻松的调用腾讯混元大模型了。就如此简单

单元测试

可移步 go-easy-llm 查看详细代码