MiniCPM-Llama3-V 2.5用实例打消了我的顾虑

最新推荐文章于 2024-07-05 06:00:00 发布
最新推荐文章于 2024-07-05 06:00:00 发布
阅读量969 收藏 2
点赞数 3
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jaja1223/article/details/139176460
版权

        近期发布的MiniCPM-Llama3-V 2.5，真的惊艳到我了。在他们提供的demo演示地址上体验了下，读图能力强的一批，ocr能力也强了好多。

        直接打消了我上篇文章的顾虑~~

        接着上上篇文章，紧锣密鼓的升级了自己本地的模型库~

https://github.com/OpenBMB/MiniCPM-V

        这里有魔塔的模型库，自行下载。贴心的为大家准备了两个版本，一个是全量的一个量化的~很棒。

        由于上次是docker部署的，python的包安装到了指定目录，所以这次需要升级下python的依赖，因为启动报错了。。

pip3 install --upgrade --target=/home/libraries transformers

        其余的没什么变化了~大家自己开玩吧~

jaja1223
关注
  • 3
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
MiniCPM-V 2.5 技术调研
AIMasterStar的博客
06-05 298
如果不采取任何优化，一张 448*448 分辨率图片编码通常需要 45s 处理时间。通过手机端编译优化、显存整理等一系列优化方式，MiniCPM-Llama3-V 2.5 将 CPU 编码延迟降低到了 5s 左右。对于高通芯片的小米14Pro，MiniCPM-Llama3-V 2.5 实现了多模态大模型端侧图像编码150 倍加速的显著提升（45s -> 0.3s）。
chinese-llama-plus-lora-33b（2）
10-12
标题“chinese-llama-plus-lora-33b（2）”暗示我们正在讨论一个针对中文处理的特定工具或库，可能是一个自然语言处理（NLP）项目，结合了Llama和LoRa两个概念。Llama可能指的是某种语言模型或处理框架，而LoRa可能...
llama3-中文微调训练集，让llama3更懂中文
04-22
Llama-3是由Meta（Facebook）AI发布的最新一代大型语言模型。它具有两种参数规模：80亿（8B）和700亿（70B），并且还有一个超过4000亿参数的版本正在训练中。Llama-3在多个行业标准测试中展现了卓越的性能，特别是在对话类应用中，其表现超过了许多现有的开源聊天模型。 在技术方面，Llama-3采用了优化的自回归Transformer架构，这种架构专为处理复杂的文本生成任务设计，能够有效提升生成文本的连贯性和相关性。它还结合了监督式微调（SFT）和带人类反馈的强化学习（RLHF），这种混合方法不仅增强了模型的帮助性，也提高了安全性，使得模型在实际应用中更加可靠和符合用户预期。 Llama-3使用了超过15万亿令牌的公开在线数据进行预训练，这些数据是前代Llama-2的七倍。此外，Llama-3支持8K长文本，具有128K token的词汇量，这有助于实现更好的性能。其主要亮点还包括增强的推理和代码能力，以及训练效率比Llama-2高3倍。 Meta表示，Llama-3在多个关键的基准测试中性能优于业界先进同类模型，能够进行复杂的推理，更遵循指令，并能够可视化想法
全球最强端侧多模态模型！国产「面壁小钢炮」MiniCPM-Llama3-V 2.5 来了！
u012744245的博客
06-04 1907
得益于 VisCPM 的跨语言泛化技术，在中英双语多模态能力的基础上，MiniCPM-Llama3-V 2.5 仅通过少量翻译的多模态数据的指令微调，高效泛化支持了德语、法语、西班牙语、意大利语、俄语等 30+ 种语言的多模态能力，几乎覆盖了所有一带一路的国家，意味着全球上百个国家的数十亿人口，都能与 MiniCPM-Llama3-V 2.5 丝滑交互。OCR 技术进一步打磨，复杂推理与多模态识别能力再进化，MiniCPM-Llama3-V 2.5 对于难图、长图、长文本的精准识别，再度带来出众表现！
本地部署 MiniCPM-Llama3-V 2.5
engchina的专栏
05-27 4415
本地部署 MiniCPM-Llama3-V 2.5
登顶Top2！MiniCPM-V 8B新版本：GPT-4V水准小钢炮，8G显存，4070轻松推理！
Paper weekly
05-22 433
时隔 1 个月，面壁小钢炮 MiniCPM 系列上新，带来MiniCPM-Llama3-V 2.5 8B，最强端侧多模态模型。小钢炮系列通过一系列自研技术，所开创的高清图像识别（1344*1344 分辨率）、强大的 OCR 能力等，本次仍得到了延续。8B 体量的新一代 MiniCPM-Llama3-V 2.5，仍带来一系列惊艳亮点。最强端侧多模态综合性能：超越多模态巨无霸 Gemini Pro ...
最强终端部署的多模态MiniCPM-V模型部署分享（不看后悔）
最新发布
m0_71062934的博客
07-05 673
MiniCPM-V模型是一个强大的端侧多模态大语言模型，专为高效的终端部署而设计。 目前该模型有MiniCPM-V 1.0、MiniCPM-V 2.0和MiniCPM-Llama3-V 2.5版本。
MiniCPM-Llama3-V-2_5-int4
m0_60657960的博客
05-21 1421
仓库文件下载模型文件下载、大模型
【AIGC调研系列】MiniCPM-Llama3-V2.5模型与GPT-4V对比
zachary的博客
05-21 1648
MiniCPM-Llama3-V2.5模型与GPT-4V的对比可以从多个方面进行分析，包括性能、应用场景和技术特点。从性能角度来看，MiniCPM-Llama3-V2.5在OCR识别、模型幻觉能力和空间理解能力方面表现出色，实现了开源模型的性能SOTA（State of the Art）[2]。这表明MiniCPM-Llama3-V2.5在处理图像和文本信息方面具有较高的效率和准确性。
小偷？MiniCPM-Llama3-V 2.5与Llama3
极道Jdon的技术博客
06-05 1051
咋一看：MiniCPM-Llama3-V 2.5与Llama3-V 好像只是版本不同，是的，Llama3-V只是在MiniCPM-Llama3-V 2.5上修改一下，然后就作为升级版本发布，这两个都是开源，外行人以为是抄袭剽窃，有的网友不以为然，开源3.0版本在开源2.5版本基础上做些很少修改，有什么问题吗？网友：这里“小偷”定义有点道德幻觉，充斥情感谴责，因为即使证据显现，也需要第三方评判，即使“抄袭者”默认，也不能冠以“小偷”，特别是在开源Github上，复制粘贴代码已经是程序员的"抄袭"习惯了。
基于ollama的Llama3安装部署使用
qq_38531623的博客
04-26 1264
Llama3快速部署与调用
MiniCPM-2B:端侧LLM优于Llama2-13B
02-06
《MiniCPM-2B：端侧LLM的优越性超越Llama2-13B》 在现代人工智能领域，预训练语言模型（LLMs，Language Models）扮演着至关重要的角色。它们通过学习大规模文本数据的统计规律，能够理解和生成自然语言，广泛应用于...
MiniCPM-2B_端侧LLM优于Llama2-13B.zip
02-07
标题中的“MiniCPM-2B_端侧LLM优于Llama2-13B”表明这可能是一个关于自然语言处理（NLP）的研究或项目，对比了两种模型：MiniCPM-2B和Llama2-13B。MiniCPM可能是Mini版本的连续预训练模型（Continual Pre-trained ...
llama3-8b tokenizer.model
06-11
《llama3-8b tokenizer.model：理解和应用》 在深度学习领域，预处理是模型训练过程中的关键步骤，而tokenizer则是预处理阶段的核心工具。本文将深入探讨“llama3-8b tokenizer.model”，一个专门用于处理大模型如...
大模型微调之——MiniCPM-V Finetuning 问题与解决办法
m0_51030297的博客
06-16 1430
大模型微调、MiniCPM-V
斯坦福抄袭清华、面壁智能大模型，当事人已道歉、删项目
RPA中国
06-05 905
6月4日，两名斯坦福大学生Aksh Garg和Siddharth Sharma，承认抄袭清华和面壁智能联合开发的MiniCPM-Llama3-V2.5（以下简称V2.5）多模态大模型事件，并在社交平台公开道歉、删掉开源项目。 该抄袭事件也得到了斯坦福大学AI实验室主任Christopher Manning的认证，表扬了国内大学、企业对开源大模型的贡献，并表示对该事件毫不知情。 V2.5开源地址：https://github.com/OpenBMB/MiniCPM-V?tab=readme-ov-file
零成本高效部署：Llama 3本地使用全攻略
程序员鑫港的博客
05-09 3326
Meta公司的Llama 3大模型引领AI新篇章 各位朋友，我是袋鼠帝。近日，真正的“OpenAI”——Meta公司，对“Close AI”进行了有力回应，推出了其开源大模型系列的最新力作——更是青出于蓝，不仅在技术层面实现了对的重大突破，还在各种评估测试中展现出令人瞩目的表现。这标志着AI技术又迈出了坚实的一步。目前，推出了两个版本，分别是8B和70B。在与同等级别的Gemma和Mistral开源模型较量中，8B版本展现出了显著的优势。
LLMs之MiniCPM：MiniCPM(揭示端侧大语言模型的无限潜力)的简介、安装和使用方法、案例应用之详细攻略
近期请国内外头部出版社可尽快私信博主！——心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，谦虚，自律，反思，成长，还算是比较正能量的博主，公益免费传播……内心特别想在AI界做出一些可以推进历史进程影响力的东西(兴趣使然，有点小情怀，也有点使命感呀)…
04-27 2379
​ LLMs之MiniCPM：MiniCPM(揭示端侧大语言模型的无限潜力)的简介、安装和使用方法、案例应用之详细攻略 目录 MiniCPM的简介 MiniCPM的安装和使用方法 MiniCPM的案例应用 MiniCPM的简介 MiniCPM 是面壁智能与清华大学自然语言处理实验室共同开源的系列端侧大模型，主体语言模型 MiniCPM-2B 仅有 24亿（2.4B）的非词嵌入参数量, 总计2.7B参数量。 经过 SFT 后，Mi
Chinese-LLaMA-Plus
07-27
Chinese-LLaMA-Plus是一个中文语言模型，它是在中文LLaMA模型的基础上进行了扩充和改进。它使用了中文通用纯文本数据进行二次预训练，并且具有更大的模型大小。Chinese-LLaMA-Plus有多个版本，包括Chinese-LLaMA-Plus-7B和Chinese-LLaMA-Plus-13B，它们分别具有更大的训练数据和模型大小。这些模型可以用于各种自然语言处理任务，如文本生成、问答和对话交互。如果您对于ChatGPT对话交互有兴趣，建议使用Alpaca模型而不是LLaMA模型。 #### 引用[.reference_title] - *1* *3* [中文版LLaMA：Chinese-LLaMA-Alpaca](https://blog.csdn.net/u013250861/article/details/131160175)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^koosearch_v1,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [达到chatgpt 90%效果的llama，Chinese-Alpaca-Plus-13B合并使用全过程分享](https://blog.csdn.net/qq_39970492/article/details/131070115)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^koosearch_v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值