ianstore的博客

原创 ollama 在Windows上的部署与使用（实用）

这个框架提供了一套简单的工具和命令，使任何人都可以轻松地启动和使用各种流行的LLM，例如GPT-3、Megatron-Turing NLG和WuDao 2.0。Ollama的主要特点包括简化部署、丰富的模型库、跨平台支持以及灵活的自定义选项。在OLLAMA中，您可以从提供的模型库中下载所需的模型，例如Llama 3、Llama 3 70B等。这些模型的大小和参数量各不相同，因此需要的存储空间和计算资源也不同。如果模型文件较大，可能会导致存储空间不足。，即可完成模型位置的迁移，再次加载或拉取模型文件时生效。