简介
本文将介绍如何使用MariTalk进行AI聊天应用的开发。MariTalk是由巴西公司Maritaca AI开发的助手,基于专门训练的语言模型,能很好地理解葡萄牙语。我们将通过一个简单的示例展示如何与llama-index结合使用MariTalk。
安装
如果你在Colab上打开此Notebook,你可能需要安装LlamaIndex和MariTalk相关的包。
!pip install llama-index
!pip install llama-index-llms-maritalk
API密钥
你需要从chat.maritaca.ai获取API密钥(在“Chaves da API”部分)。
使用方法
聊天功能
以下是使用MariTalk进行聊天的示例代码:
from llama_index.core.llms import ChatMessage
from llama_index.llms.maritalk import Maritalk
# 定制你的API密钥,或者默认从环境变量MARITALK_API_KEY中查找
# llm = Maritalk(api_key="<your_maritalk_api_key>")
llm = Maritalk()
# 通过一组消息进行聊天
messages = [
ChatMessage(
role="system",
content="你是一个专门建议宠物名字的助手。给定动物,你必须建议4个名字。",
),
ChatMessage(role="user", content="我有一只狗。"),
]
response = llm.chat(messages)
print(response) # 中转API
少样本示例
我们建议在使用少样本示例时使用llm.complete()
方法。
prompt = """Classifique a resenha de filme como "positiva" ou "negativa".
Resenha: Gostei muito do filme, é o melhor do ano!
Classe: positiva
Resenha: O filme deixa muito a desejar.
Classe: negativa
Resenha: Apesar de longo, valeu o ingresso..
Classe:"""
response = llm.complete(prompt, stopping_tokens=["\n"])
print(response) # 中转API
可能遇到的错误
-
API密钥错误: 如果API密钥错误或未设置,可能会导致认证失败的错误。请确保密钥正确无误,并且已设置在环境变量中或在代码中正确传递。
-
网络连接问题: 在使用API时,如果网络不稳定,可能会导致请求失败。建议检查网络连接并重试。
-
输入格式错误: 输入的消息或提示不符合API要求的格式,可能会导致响应异常。请确保输入的消息格式正确。
如果你觉得这篇文章对你有帮助,请点赞,关注我的博客,谢谢!