GPT4ALL私有化部署 02 | 初尝试
在初尝试文章中,提到了如何使用gpt4all
进行对话,使用到了以下代码:
from gpt4all import GPT4All
model = GPT4All(model_name='orca-mini-3b.ggmlv3.q4_0.bin')
with model.chat_session():
response = model.generate(prompt='hello', top_k=1)
response = model.generate(prompt='write me a short poem'