软件介绍
Ollama 是一款为本地环境设计的轻量级、可扩展框架,专门用于构建和运行大型语言模型(LLMs)。它不仅仅是一个运行时环境,而是一个完整的生态系统,涵盖了模型创建、运行和管理的各个环节。Ollama 的推出,开启了在本地机器上部署和操作复杂 AI 模型的新篇章。
软件安装
进入ollama官网(公众号发送102获取),然后点击Download按钮
之后根据自己的电脑系统选择相应的版本
下载完成后打开OllamaSetup.exe,点击Install开始安装,稍等片刻即可安装完成
之后打开cmd窗口,输入ollama -v,如果输出版本号后就表示安装成功了
模型安装
进入ollama官网(公众号发送102获取),然后点击Models按钮
之后就能看到模型了,而且Ollama的模型种类繁多,从文本生成、代码生成到图像处理和嵌入生成,能够满足多种应用需求
这里我们选择llama3模型来演示。这里说明下Meta Llama 3 是 Meta 公司开发的模型系列,是最先进的新型模型,有 8B 和 70B 两种参数规格(预训练或指令调整)。
Llama 3 指令调整模型针对对话/聊天用例进行了微调和优化,在常见基准测试中优于许多现有的开源聊天模型。
点击复制命令,之后粘贴到CMD窗口即可自动安装并运行该模型
运行命令后,ollama会自动下载默认,默认下载的是llama3的8B模型,模型大小为4.7GB,模型下载完成后会自动运行,出现>>> 时就可以使用我们的AI大模型了。
我们输入对话测试一下
可以看到我们的本地大模型已经成功和咱们对话了,而且完全不需要联网,断网也可以用,非常方便。
如何学习大模型
现在社会上大模型越来越普及了,已经有很多人都想往这里面扎,但是却找不到适合的方法去学习。
作为一名资深码农,初入大模型时也吃了很多亏,踩了无数坑。现在我想把我的经验和知识分享给你们,帮助你们学习AI大模型,能够解决你们学习中的困难。
我已将重要的AI大模型资料包括市面上AI大模型各大白皮书、AGI大模型系统学习路线、AI大模型视频教程、实战学习,等录播视频免费分享出来,需要的小伙伴可以扫取。

一、AGI大模型系统学习路线
很多人学习大模型的时候没有方向,东学一点西学一点,像只无头苍蝇乱撞,我下面分享的这个学习路线希望能够帮助到你们学习AI大模型。
二、AI大模型视频教程
三、AI大模型各大学习书籍
四、AI大模型各大场景实战案例
五、结束语
学习AI大模型是当前科技发展的趋势,它不仅能够为我们提供更多的机会和挑战,还能够让我们更好地理解和应用人工智能技术。通过学习AI大模型,我们可以深入了解深度学习、神经网络等核心概念,并将其应用于自然语言处理、计算机视觉、语音识别等领域。同时,掌握AI大模型还能够为我们的职业发展增添竞争力,成为未来技术领域的领导者。
再者,学习AI大模型也能为我们自己创造更多的价值,提供更多的岗位以及副业创收,让自己的生活更上一层楼。
因此,学习AI大模型是一项有前景且值得投入的时间和精力的重要选择。