升级Ollama！MiniCPM-V2_6图像识别模型上线，适用于手机上单张图片、多张图片和视频的 GPT-4V 级 MLLM

最新推荐文章于 2024-09-22 18:55:00 发布

AI女王

最新推荐文章于 2024-09-22 18:55:00 发布

阅读量1.7k

点赞数 15

文章标签：人工智能大模型 ai Ollama Llama LLM 学习

本文链接：https://blog.csdn.net/m0_56255097/article/details/142166955

版权

Ollama 发布了一个新版本，并且带来了三个很酷的新功能。首先，我们现在支持 MiniCPM 视觉模型，还支持 Yi-Coder 模型和 DeepSeek V2.5 版本。

我会在不同的视频中介绍这三个功能，但对我来说，最吸引人的无疑是这个 MiniCPM 视觉模型。如果你还不了解 MiniCPM 视觉模型，可以告诉你，它是一个紧凑但非常强大的模型，尤其是在视觉和通用任务方面。

如果你访问 Hugging Face，他们提供了很多关于这个模型的详细信息，你可以浏览并查看相关内容。

比如，最新版本是 2.6，这是该系列中最强大的模型。

MiniCPM-V 2.6 是 MiniCPM-V 系列中最新、功能最强大的模型。该模型基于 SigLip-400M 和 Qwen2-7B 构建，共有 8B 个参数。

与 MiniCPM-Llama3-V 2.5 相比，它的性能有了显著提升，并引入了用于多图像和视频理解的新功能。MiniCPM-V 2.6 的显著特点包括：

如果你访问 Ollama 的网站，可以在模型部分搜索 MiniCPM，或者直接访问他们的 GitHub 页面。你可以看到，这就是 MiniCPM 视觉模型，现在已经可以使用了。

不过在运行之前，你需要先升级 Ollama。在这个视频中，我将首先展示如何在本地系统中升级 Ollama，然后下载 MiniCPM，并进行一些操作。

如果运行 `Ollama --version`，你会看到我目前使用的版本是 3.6。

如果你访问 Ollama 的发布页面，你会发现最新的版本是 3.10，这个版本支持 MiniCPM 视觉模型和 DeepSeek 模型。

因此，我们首先需要升级 Ollama。升级命令和初次安装时一样。访问 Ollama 的网站，点击下载，选择对应的操作系统。我使用的是 Linux，所以点击 Linux，复制这里的命令，然后回到终端并运行该命令。这需要一些时间，大约一分钟。

不过，对于国内来说使用这个命令通常会卡死。这里我介绍一个自己使用百分百能成功的方法：

我们先直接去github下载他的安装包

然后去这个网址把脚本文件复制下来（或者下载 install.sh）：https://ollama.com/install.sh

然后操作我图中画出来的两步（一个是注释，一个是替换为上面下载的二进制文件夹路径，**tips：**一定要是二进制的目录，以便进行离线安装）：

之所以这样离线安装，是因为官方给的手动（离线）安装的结束后出现了“段错误”。

Ollama 已经升级了，但我们需要指向新的二进制文件。复制新的二进制文件路径，然后再次运行 `Ollama --version`。

虽然 Ollama 已升级到 3.10 版本，但客户端还是 3.6，所以我们还需要升级客户端。虽然已经升级了，但我们需要重新加载系统守护进程和服务。所以重新加载守护进程，然后停止 Ollama 服务，接着重新启动它。现在如果再次运行 `Ollama --version`，你会看到版本已经是 3.10。