Ollama发布了Windows预览版，支持GPU加速的本地大语言模型，同时Magika展示了高效的文件类型识别技术。PopAi和StableCascade则提供了个人AI工作空间和文本到图像生成的新突破。创作猫作为一个全能视频创作平台，结合AI功能和变现途径。
Ollama Windows preview - Ollama Windows预览版用户可以在本地创建和运行大语言模型，并且支持NVIDIA GPU和现代CPU指令集的硬件加速
Ollama发布了Windows预览版，使用户能够在原生的Windows环境中拉取、运行和创建大语言模型。该版本支持英伟达的GPU，并需要CPU支持AVX和AVX2等指令集。Ollama利用NVIDIA GPU和现代CPU指令集来加速模型运行，无需额外的配置或虚拟化。目前该版本还在开发中，计划未来支持AMD GPU。如果用户有能力，也可以直接从源码构建支持AMD GPU的版本。Windows版的Ollama包括内置的GPU加速、访问完整的模型库，以及包括OpenAI兼容性在内的Ollama API。
https://ollama.com/blog/windows-preview
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
