AI
文章平均质量分 60
旅程@.
学无止境,勇攀高峰
保持旺盛的好奇心,那会是宝贵的财富
展开
-
Ollama显存优化
本文介绍了如何通过修改ollama模型的配置文件,指定加载进GPU的层数,从而优化模型推理效率。通过交互模式或修改模型配置文件,可以灵活设置GPU层数,提升模型的显存利用率,实现更高效的推理过程。原创 2024-06-04 21:59:38 · 3750 阅读 · 0 评论 -
ollama Windows部署
本文介绍了如何在Windows上部署Ollama,包括下载安装、环境配置和测试步骤。通过配置环境变量和测试网络连接,可以成功搭建本地大模型服务,实现快速部署和测试模型功能。原创 2024-04-15 15:16:09 · 2641 阅读 · 1 评论 -
思源笔记AI使用指南
介绍如何注册CZL账户并使用思源AI,包括注册账户获取0.1$额度,创建key,设置调用地址为https://oapi.czl.net/v1,以及调用AI的步骤。原创 2024-04-07 15:49:07 · 808 阅读 · 0 评论