如何在本地搭建和部署一个私有AI 大模型？

python_first1

于 2024-07-09 21:53:57 发布

阅读量1.8k

点赞数 26

文章标签：人工智能 python chatgpt 数据挖掘开发语言

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/python_first1/article/details/140307727

版权

这里我们以Gemma2+chatbox+ollama为例来进行部署。

本机硬件：

CPU：11th Gen Intel® Core™ i5-1135G7 @ 2.40GHz 8线程
内存：16G
GPU： Intel® Iris® Xe Graphics 共享 GPU 内存 0.8/7.9 GB
OS: windows11 x64

一、ollama安装

1.下载安装包

访问https://ollama.com/download，选择windows类型，下载

2.安装

3.启动

安装完毕后，ollama会自动启动

输入命令：ollama -h验证

最低0.47元/天解锁文章

博客等级

码龄2年

75
原创

268
点赞

450
收藏

185
粉丝

关注

私信

热门文章

分类专栏

Python 52篇

展开全部收起

上一篇：: 超详细Python学习路线+思维导图！多图预警，文末附下载

下一篇：: AI大模型应用入门实战与进阶：构建你的第一个大模型：实战指南

最新评论

AI大模型应用入门实战与进阶：构建你的第一个大模型：实战指南
CSDN-Ada助手: Python入门技能树或许可以帮到你：https://edu.csdn.net/skill/python?utm_source=AI_act_python
ChatGPT 中文调教指南
CSDN-Ada助手: 一定要坚持创作更多高质量博客哦, 小小红包, 以资鼓励, 更多创作活动请看: 新星计划2023: https://marketing.csdn.net/p/1738cda78d47b2ebb920916aab7c3584?utm_source=csdn_ai_ada_redpacket 新星计划2023: https://marketing.csdn.net/p/1738cda78d47b2ebb920916aab7c3584?utm_source=csdn_ai_ada_redpacket 上传ChatGPT/计算机论文等资源，瓜分￥5000元现金: https://blog.csdn.net/VIP_Assistant/article/details/130196121?utm_source=csdn_ai_ada_redpacket 新人首创任务挑战赛: https://marketing.csdn.net/p/90a06697f3eae83aabea1e150f5be8a5?utm_source=csdn_ai_ada_redpacket Microsoft Edge功能测评！: https://activity.csdn.net/creatActivity?id=10403?utm_source=csdn_ai_ada_redpacket 职场解惑讨论会: https://activity.csdn.net/creatActivity?id=10427?utm_source=csdn_ai_ada_redpacket 可持续能源技术真的能改变世界吗？: https://activity.csdn.net/creatActivity?id=10425?utm_source=csdn_ai_ada_redpacket 无效数据，你会怎么处理？: https://activity.csdn.net/creatActivity?id=10423?utm_source=csdn_ai_ada_redpacket 物联网技术正在如何影响我们的生活: https://activity.csdn.net/creatActivity?id=10421?utm_source=csdn_ai_ada_redpacket 生物识别技术能否成为应对安全挑战的绝佳选择？: https://activity.csdn.net/creatActivity?id=10411?utm_source=csdn_ai_ada_redpacket 应届生如何提高职场竞争力: https://activity.csdn.net/creatActivity?id=10409?utm_source=csdn_ai_ada_redpacket 讯飞星火大模型将超越chatgpt？: https://activity.csdn.net/creatActivity?id=10407?utm_source=csdn_ai_ada_redpacket 职场新人备忘录: https://activity.csdn.net/creatActivity?id=10405?utm_source=csdn_ai_ada_redpacket VR vs AR：哪种技术更有潜力改变未来？: https://activity.csdn.net/creatActivity?id=10399?utm_source=csdn_ai_ada_redpacket “裸奔”时代下该如何保护网络隐私: https://activity.csdn.net/creatActivity?id=10401?utm_source=csdn_ai_ada_redpacket 蓝桥杯备赛指南分享: https://activity.csdn.net/creatActivity?id=10317?utm_source=csdn_ai_ada_redpacket
小白必看，Python需掌握的基础代码！！！
CSDN-Ada助手: 非常感谢用户分享这篇有用的博客！对于像我这样的小白来说，掌握Python的基础代码确实是非常重要的。希望用户能够继续创作，分享更多有用的内容。下一步的创作建议是可以考虑分享一些实用的Python应用案例，让读者更好地理解和应用所学内容。再次感谢用户的分享！ CSDN 会根据你创作的前四篇博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply4 看奖励名单。

大家在看

最新文章

目录

展开全部

收起

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。