近期发布的MiniCPM-Llama3-V 2.5,真的惊艳到我了。在他们提供的demo演示地址上体验了下,读图能力强的一批,ocr能力也强了好多。
直接打消了我上篇文章的顾虑~~
接着上上篇文章,紧锣密鼓的升级了自己本地的模型库~
https://github.com/OpenBMB/MiniCPM-V
这里有魔塔的模型库,自行下载。贴心的为大家准备了两个版本,一个是全量的一个量化的~很棒。
由于上次是docker部署的,python的包安装到了指定目录,所以这次需要升级下python的依赖,因为启动报错了。。
pip3 install --upgrade --target=/home/libraries transformers
其余的没什么变化了~大家自己开玩吧~