一个令人惊艳的国产 AI 开源项目，诞生了！MiniCPM-V2.6

最新推荐文章于 2024-08-18 21:31:01 发布

GUO SHIYIN

最新推荐文章于 2024-08-18 21:31:01 发布

阅读量206

点赞数 5

文章标签：人工智能

本文链接：https://blog.csdn.net/guoshiyin/article/details/141134997

版权

项目地址

https://github.com/OpenBMB/MiniCPM-V

「三合一」最强端侧多模 态：首次在端侧实现单图、多图、视频理解等多模态核心能力全面超越 GPT-4V****，单图理解越级比肩多模态王者 Gemini 1.5 Pro 和新晋顶流 GPT-4o mini 。
多项功能首次上 **端：**实时视频理解、多图联合理解、多图 ICL 视觉类比学习、多图 OCR 等功能，第一次让端侧模型睁开观察、理解真实流动世界的「眼睛」，不仅看得清晰，还能有样学样、模仿学习。
极致高效，最高多模态像素密 度：类比知识密度，小钢炮2.6 取得了两倍于 GPT-4o 的单 token 编码像素密度（token density），在端侧方寸之地，一路将**大模型「能效比」**挖到极限。这一进展，得益于视觉 token相比上一代下降 30% ，比同类模型低 75%。
端侧友 好：量化后端侧 6G 内存即可使用；端侧推理速度高达 18 tokens/s ，相比上代模型快 33% 。并且发布即支持 llama.cpp、ollama、vllm 推理；且支持多种语言。
**统一高清框架，高效能力一拖三：**小钢炮的传统优势 OCR 能力延续了其 SOTA 性能水平，并进一步覆盖单图、多图、视频理解。

docker run -it -p 8885:8885 --gpus=all  --rm registry.cn-hangzhou.aliyuncs.com/guoshiyin/minicpm:v2.6.2

ip+端口
在这里插入图片描述

关注