MinggeQingchun的博客

鉴于使用Ollama的命令行交互不是很方便，所以我们需要另一个开源的WebUI，搭建一个能通过浏览器访问的界面；Ollama的Web & Desktop非常多，比较流行的是 Open WebUI本文按照Windows系统下使用Docker方式来安装Open WebUI，源码部署安装可以参考文档自行部署Window下使用Docker推荐使用Docker Desktop；

它能够帮助用户快速在本地运行各种大模型，极大地简化了大模型在本地运行的过程。1、例如，运行一个7B（70亿参数）的模型至少需要8GB的可用内存(RAM)，而运行一个13B（130亿参数）的模型需要16GB的内存，33B（330亿参数）的模型需要32GB的内存。4、显卡（GPU）：Ollama支持纯CPU运行，但如果电脑配备了NVIDIA GPU，可以利用GPU进行加速，提高模型的运行速度和性能。2、需要考虑有足够的磁盘空间，大模型的文件大小可能比较大，建议至少为Ollama和其模型预留50GB的磁盘空间。

此外，SpringAI支持接入多种AI服务，如OpenAI、Ollama、Azure OpenAI、Huggingface等，可以实现聊天、embedding、图片生成、语音转文字、向量数据库、function calling、prompt模板、outputparser、RAG等功能‌。Spring AI是一个人工智能工程的应用框架，旨在为Java开发者提供一种更简洁的方式与AI交互，减轻在Java业务中接入。且勾选AI中的OpenAI选项（2024之前的老版本IDEA应该没有这个选项）

人工智能AI是一门新的技术科学，旨在开发、研究用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统，它结合了数学、计算机科学、心理学等多学科的理论，通过让计算机模拟人类的思考和行为过程，实现人机交互，提高计算机的智能水平，以更好地服务于人类社会系统正确解释外部数据的能力，从这些数据中学习的能力，以及通过灵活的适应利用这些学习来实现特定目标和任务的能力。