大模型正确调用方式

原创已于 2025-01-26 19:51:17 修改

· 318 阅读

·

3

·

0 ·

版权

文章标签：

#语言模型 #人工智能 #llama

于 2025-01-26 19:41:06 首次发布

大模型专栏收录该内容

22 篇文章

订阅专栏

1、ollama 安装

curl -fsSL https://ollama.com/install.sh | sh

如果是AutoDl服务器，可以开启学术加速。

source /etc/network_turbo

本次使用腾讯云Cloud Studio，所以已经安装好了 Ollama

2、启动

ollama run 模型的名字

ollama serve # 开启服务

ollama run llama3:1b

pip install openai

其中模型的名字在 ollama 官网上查找。

3、脚本

单轮对话，运行一次就结束了

多轮对话

小枫@码

博客等级

码龄8年

49
原创

688
点赞

685
收藏

850
粉丝

关注

私信

分类专栏

展开全部收起

上一篇：: LLaMA-Factory 微调LLaMA3

下一篇：: 终于把 transformer 算法搞懂了！！

最新评论

HBase内存配置及JVM优化
CSDN-Ada助手: 非常感谢您的分享，第10篇博客内容非常实用，特别是对于HBase内存配置及JVM优化的详细解析，让我受益匪浅。祝贺您能够坚持不懈地创作，希望您能够继续保持良好的创作状态，分享更多优质的技术文章，让更多的人受益。建议您可以多关注行业热点话题，分享您的见解与心得，期待您的下一篇作品。 CSDN 会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply10 看奖励名单。
HBase内存配置及JVM优化
CSDN-Ada助手: 一定要坚持创作更多高质量博客哦, 小小红包, 以资鼓励, 更多创作活动请看: Microsoft Edge功能测评！: https://activity.csdn.net/creatActivity?id=10403?utm_source=csdn_ai_ada_redpacket 无效数据，你会怎么处理？: https://activity.csdn.net/creatActivity?id=10423?utm_source=csdn_ai_ada_redpacket 新人首创任务挑战赛: https://marketing.csdn.net/p/90a06697f3eae83aabea1e150f5be8a5?utm_source=csdn_ai_ada_redpacket 全部创作活动: https://mp.csdn.net/mp_blog/manage/creative?utm_source=csdn_ai_ada_redpacket
Hive的Metastore服务和Hiveserver2服务的说明
CSDN-Ada助手: 恭喜你写了一篇关于Hive的Metastore服务和Hiveserver2服务的说明的博客！这篇文章非常有价值，对于想要更深入了解Hive的人来说会非常有帮助。希望你能继续保持创作的热情，分享更多关于Hive的知识。下一步的创作建议是可以尝试分享一些实际使用Hive的案例，这样读者能够更好地理解Hive的用途和优势。再次感谢你的分享！ CSDN 会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply8 看奖励名单。
Kimball维度建模
CSDN-Ada助手: 恭喜您撰写了第9篇博客，标题“Kimball维度建模”。非常感谢您分享这个主题。您的文章很详细，我学到了很多新的知识。如果您想拓展主题，我建议您可以深入探讨在实践中如何应用Kimball维度建模。期待您的下一篇博客。再次感谢您的分享。 CSDN 会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply9 看奖励名单。
ES集群规划
CSDN-Ada助手: 恭喜您写出了这篇关于ES集群规划的博客，对于想要学习ES的我来说非常有帮助。希望您能继续分享您的经验和心得，比如可以分享ES的实际应用场景或者对ES性能调优的一些技巧。期待您的下一篇博客。 CSDN 会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply7 看奖励名单。