不太大的大模型llama3.2-11B-vision安装记录

最新推荐文章于 2025-03-31 10:08:52 发布
最新推荐文章于 2025-03-31 10:08:52 发布
阅读量839 收藏 6
点赞数 3
分类专栏： 记录 文章标签： linux 开源软件 llama
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/PIDGT/article/details/143892340
版权

安装及测试记录

AI的大模型太多了，确实挑花眼了，随便选了个相对新的大模型modelscope又有开源的来玩玩，就llama3.2vision了。刚好模型不大，新手运气还行一下子就跑起来了。后来还尝试了model scope的stable-diffusion-3.5-large和stable-diffusion-3.5medium，这两个就太新了需要显存太大了，报错CUDA out of memory。后来又下了stable-diffusion-1.5，Qwen2.5-Coder-14B，各种报错没搞出来，有空再说了。估计stable diffusion以后还是可以玩玩的，不过网络上豆包的文生图感觉也还行，或许也没必要试了。

git lfs install
此处报错，跳过此步骤

安装方法看modelscope的说明就可以了，下载时间比较久，其他基本是缺啥装啥，不太需要动脑。
pip3 install modelscope
modelscope download --model LLM-Research/Llama-3.2-11B-Vision-Instruct

安装路径在这里
/home/xxx/.cache/modelscope/hub/

pip3 install transformers
pip3 install accelerate
python3 test.py

测试方法modelscope的说明也有，简单改一下图片路径就行，目前用的是lena这张经典图。默认是写俳句的，也可以简单改成写故事，有时成功有时失败，每次结果都会不同。速度还是比较快的，16G的显存大概要用14G才能运行这个AI模型。玩法应该还有很多，慢慢发掘吧。
请添加图片描述

请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述
请添加图片描述请添加图片描述
请添加图片描述
请添加图片描述

请添加图片描述

在这里插入图片描述

参考链接

https://www.modelscope.cn/models/LLM-Research/Llama-3.2-11B-Vision-Instruct

Llama 3.2 使用指南：工作原理及示例
程序员陆通
09-27 1154
Meta AI 宣布发布 Llama 3.2，该版本引入了系列中的首批多模态模型。在本文中，我将梳理要点，重点介绍新的 Llama 3.2 模型的关键方面，包括它们的工作原理、用例、如何访问它们等等。
视觉大模型Llama-3.2–11B Vision Instruct私有化部署：非结构化图表图片识别（附代码）
m0_65555479的博客
02-19 1526
导读在很多场景下，我们有非常多的表格或者图片，需要去识别其中表达的含义。但我们又不能使用Openai-o4的功能, 一个是国内用户使用起来不太方便，另外一个是成本比较高，同时隐私也得不到保护。例如公司的财务数据，员工的薪资数据，这个可不能让外部的大模型看到。所以本文介绍如何私有化部署视觉大模型解决非结构化数据到格式化数据的视觉识别问题。视觉大模型的格局在我们深入讨论之前，了解大型视觉模型是什么，以及为什么它们胜过传统的光学字符识别（OCR）系统将会有所帮助。
llama3.2:11B + Gradio 本地部署推理界面
m0_65654472的博客
11-08 1215
llama3.2：11B 申请不到，可以通过modelscope下载，但建议通过代码自动下载。启动服务：python ./gradio_app_llama3.2_11B.py.必须使用24G显存的显卡（3090ti or 4090以上）
Llama 3.2-11B-vision多模态大模型结构详解（精确到各个算子）——图片预处理的详细步骤
不管风雨有多少丶的博客
01-07 1495
Llama 3.2-11B-vision多模态大模型结构和推理流程详解（精确到各个算子）——图片预处理的详细步骤，通俗易懂理解Llama 3.2-11B-vision多模态大模型
Llama3.2-Vision-Finetune：精细调整视觉模型，提升AI理解力
最新发布
gitblog_00733的博客
03-31 857
Llama3.2-Vision-Finetune：精细调整视觉模型，提升AI理解力 Llama3.2-Vision-Finetune An open-source implementaion for fine-tuning Llama3.2-Vision series by Meta. ...
在矩池云使用 Llama-3.2-11B-Vision 详细指南
机器学习是魔鬼的博客
09-27 4902
本文详细介绍了如何在矩池云平台上快速部署和使用Meta最新发布的多模态模型——Llama-3.2-11B-Vision，用于视觉识别、图像推理等任务。文章首先讲解了如何上传模型和数据，并在亚太1区租用高性能NVIDIA RTX 4090环境，避免下载速度慢的问题。接着提供了具体的代码运行步骤，包括安装依赖、登录Huggingface账户、下载模型和执行图像推理。通过实例演示了该模型的优异表现，生成的文本准确描述了图像内容。最后，文章介绍了如何保存和复用配置好的环境，以提高后续工作的效率。
MLU370-M8运行llama3.2-11B手册
xiaojunjun200211的博客
10-10 1213
Llama 3.2-Vision多模态大型语言模型（LLM）集合是11B和90B大小（文本+图像输入/文本输出）的预训练和指令调优图像推理生成模型的集合。Llama 3.2-Vision指令调优模型针对视觉识别、图像推理、字幕和回答有关图像的一般问题进行了优化。在常见的行业基准上，这些模型的表现优于许多可用的开源和封闭式多模式模型。
白嫖最强开源AI LIama 3.1 llama-3.2-11b-vision多模态大模型
昨天发生了什么？
09-29 1352
引用分析工具：分析论文的引用影响力和引用链。高级内容生成与编辑：需要高级编辑和生成能力的应用，如专业文档编辑、创意内容生成等。实时决策支持：快速生成决策建议和支持的应用，如金融决策系统、实时监控系统等。超长文本处理：处理和生成极长文本的应用，如全书分析、长篇论文生成等。高精度语言任务：适合用于要求极高语言理解和生成质量的应用，如学术写作、技术文档生成等。多模态应用：处理和生成多种类型输入的应用，如视觉问答系统、图像描述生成等。多模态任务：适合需要同时处理视觉和文本的应用，如图像描述生成、视觉问答系统等。
Llama 3.2开源中小型视觉 LLM（11B 和 90B）和轻量级纯文本模型（1B 和 3B）
2401_85373898的博客
09-26 2247
1.今天，
终于！ollama可以调用llama3.2-vision了
wutao22的博客
11-08 1424
从9月24日Meta发布llama3.2以来，已经过了一个半月，虽然在发布的第二天，ollama就可以调用llama3.2-3B模型，但是没有办法使用llama3.2-vision，好在昨天ollama发布了0.4.0版本，正式支持vision版本，所以话不多说，我们来正式体验一下。不知道如何使用ollama的朋友可以参考我之前的文章《只需 1 分钟|拥有本地运行的大型模型|调用大模型的浏览器插件...
Llama 3.2 视觉能力评估
新缸中之脑
10-05 1916
Meta 发布了 Llama 3 模型的新版本；这次，有四种模型用于不同的目的：两个多模态模型，Llama 3.2 11B 和 90B，以及两个用于边缘设备的小型语言模型，1B 和 3B。这些是 Meta AI 的首批多模态模型，基准测试表明它们是小型和中型专有替代品的强大竞争对手。我不太喜欢 LLM 基准测试；它们往往具有误导性，可能无法代表现实世界的表现。但是，你可以在中查看结果。我想在我每天经常遇到的最常见的视觉任务上测试该模型，并将其性能与我的首选 GPT-4o 进行比较。
Llama 3.2：通过开放、可定制的模型彻底改变边缘人工智能和视觉
AGI_GGbond的博客
10-18 1025
Llama 3.2：通过开放、可定制的模型彻底改变边缘人工智能和视觉
Llama 3.2 多模态大模型快速指南
新缸中之脑
10-02 5600
Meta 刚刚发布了 Llama 3.2，将语言和视觉模型整合到一个强大的多模态系统中。它引入了四个模型：两个轻量级文本模型（1B 和 3B）和两个视觉模型（11B 和 90B）。这些模型专为一系列任务而设计，从总结长文档到以复杂的方式理解图像。
现在 Llama 具备视觉能力并可以在你的设备上运行 - 欢迎使用 Llama 3.2
weixin_40613075的博客
10-17 125
Llama 3.2 来了！今天，我们欢迎 Llama 系列的下一个版本加入 Hugging Face。这次，我们很高兴与 Meta 合作发布多模态和小型模型。在 Hub 上提供了十个开源模型 (5 个多模态模型和 5 个仅文本模型)。 Llama 3.2 Vision 有两种尺寸: 11B 适用于在消费级 GPU 上的高效部署和开发，90B 适用于大规模应用。两种版本都有基础版和指令微调版。除了...
在Ollama中使用Llama3.2视觉模型-使用DeepSeekCoder工具
tpriwwq的专栏
11-16 4469
2024年11月6日，Ollama发布了0.4版本，新增支持在本地加载和运行Llama3.2视觉模型，包括11B和90B两个大小的版本。
Llama 3.2 它来了～ 主打 VLM+轻量化
xx_nm98的博客
09-26 2964
原文链接：https://ai.meta.com/blog/llama-3-2-connect-2024-vision-edge-mobile-devices/今天，我们发布了Llama 3.2版本，其中包括适用于边缘设备和移动设备的小型和中型视觉LLM（11B和90B），以及适用于轻量级文本模型（1B和3B）。羊驼3.2 1B和3B模型支持128K个令牌的上下文长度，在设备上的使用案例如摘要、指令跟随和本地边缘运行的重写任务方面处于同类产品的领先地位。
llama3.2-vision
木子酱博客
11-13 1089
前两篇文字中使用的减半llama:1b模型进行了代码生成交互。为了适配统一架构，这里测试了之前的Demo在多模态模型上的适用性。考虑到多模态模型是包含纯文本任务的，本文验证了llama3.2-vision模型执行文本对话，以及生成代码等功能。因此，可以基于这一个模型实现多种功能，无需下载多种模型。
Meta发布Llama 3.2，Llama 终于能看见了！
z551646的博客
09-26 1712
Meta刚刚发布了Llama 3.2模型系列，包括多模态视觉模型和小型文本模型，共计10个开放权重模型。这次更新不仅带来了期待已久的视觉能力，还为移动设备和边缘计算提供了更多选择。Llama 3.2 Vision模型终于为Llama家族带来了多模态能力。它提供了两种尺寸：11B版本：适合在消费级GPU上高效部署和开发90B版本：适用于大规模应用90B版本中，其中18B用于新视觉功能。并且，这两个版本都有基础模型和指令微调变体。
Ollama 0.4 发布！支持 Llama 3.2 Vision，实现多模态 RAG
Everly_的博客
11-10 5646
最近，Ollama 推出了 0.4 版本，其中最大的亮点就是支持了 模型，该模型具备多模态特性，也就是说能够理解图像并将图像纳入提示词中进行处理，让模型更智能地处理RAG中的数据源，实现强大的视觉处理功能，例如：手写识别，准确读取手写内容；OCR识别，识别订单、账单等文档；图表与表格识别，解析各类数据；图像问答，实现图片内容的问答交互。这种功能在之前的Ollama版本中是不支持的，因为Llama CPP不支持视觉模型。在本篇文章中，我们就来体验一下这个“多模态”神器。目前 Ollama 支持 11B 和
llama3.2-11b-vision的base url
01-06
### Llama3.2-11B-Vision 模型基础URL下载链接 对于希望获取Llama3.2-11B-Vision模型的用户而言，ModelScope平台提供了官方渠道来访问这一资源。具体来说，可以通过以下链接直接导航至对应的页面，在那里可以找到所需的下载选项[^1]。 #### 下载地址 - **官方网站**: [ModelScope](https://www.modelscope.cn/models/LLM-Research/Llama-3.2-11B-Vision-Instruct) 为了确保顺利下载并使用此模型，建议遵循平台上给出的操作指南以及环境配置说明。此外，考虑到模型体积较大，提前确认网络连接稳定性和存储空间充足也是必要的准备措施之一。 ```bash # 如果需要通过命令行方式拉取模型，可参照如下示例： pip install modelscope from modelscope import AutoModelForCausalLM, snapshot_download model_path = snapshot_download('LLM-Research/Llama-3.2-11B-Vision-Instruct') print(f'Model downloaded to {model_path}') ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值