go-easy-llm
点击 github go-easy-llm 查看更多
一个满足你的调用多种大模型API的轮子,支持目前市面多家第三方大模型,包含ChatGPT、通义千问、文心大模型、混元、盘古、百川智能等; 一套写法兼容所有平台,简单配置即可灵活使用第三方大模型API。
简单几步即可使用第三方大模型API
混元大模型调用
创建密钥
通过这一步,你就会拿到腾讯的 secretId
、secretKey
,主要用于鉴权使用
引入go-easy-llm
go get github.com/soryetong/go-easy-llm
导入配置
这里填入你创建密钥时获取到的
secretId
、secretKey
config := easyllm.DefaultConfigWithSecret("your-secretId", "your-secretKey", easyai.ChatTypeHunYuan)
创建 Chat
客户端
client := easyllm.NewChatClient(config)
调用 Chat
模式大模型
一次性回复
NormalChat
resp, reply, err := client.NormalChat(context.Background(), &easyai.ChatRequest{
Model: easyai.ChatModelQWenTurbo,
Message: "请介绍一下自己",
})
// resp 为定义的通用类型, `easyai.ChatResponse`
// reply 为大模型返回的文本
流式回复
StreamChat
resp, err := client.StreamChat(context.Background(), &easyai.ChatRequest{
Model: easyai.ChatModelQWenTurbo,
Message: "介绍一下你自己",
})
for content := range resp {
fmt.Println(content)
}
通过以上简单几步,你就可以轻松的调用腾讯混元大模型了。就如此简单
单元测试
可移步 go-easy-llm 查看详细代码