foxleung的博客

原创 消费级显卡+轻量化开源模型Gemma/Llama 实现端到端信息抽取深度横评

本文实测了如何利用 Ollama 本地部署的轻量化模型，彻底替代传统 NER 流程，实现端到端的 Zero-shot（零样本）信息抽取。针对 RTX 4080 (16GB) 消费级显卡环境，深度横评了 Llama 3.2 (3B)、Gemma 3 (4B/12B) 及 Llama 3.1 (8B) 在处理复杂口语转码、隐性逻辑推理及 JSON 格式遵循等维度的真实表现。