Github热门项目
文章平均质量分 93
大模型实验室Lab4AI
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
【项目复现上新】突破推理瓶颈!LightLLM轻量化部署新范式,打造高性能法律智能体
本文探讨了LightLLM框架在法律智能体中的应用,解决大语言模型知识滞后和幻觉问题。通过RAG框架整合外部知识库,LightLLM实现轻量化部署与高效推理,支持多模型规模与量化策略。文章详细演示了在Lab4AI平台三步搭建法律智能体的过程:部署LLM服务、RAG服务和应用体验。该方案不仅适用于法律领域,还可迁移至金融、医疗等专业场景。Lab4AI平台提供算力、实验环境和社区支持,助力科研人员和开发者从理论到实践的完整闭环。原创 2025-11-17 17:27:08 · 654 阅读 · 0 评论 -
【Github热门项目】DeepSeek-OCR项目上线即突破7k+星!突破10倍无损压缩,重新定义文本-视觉信息处理
摘要 DeepSeek-OCR是近期开源的突破性OCR技术,采用创新的"上下文光学压缩"方法,实现了显著的效率提升。该30亿参数模型通过视觉token高效压缩文本信息,仅用100个视觉token就能超越传统模型256个token的性能表现。其核心创新包括: 10倍无损压缩能力,保持97%解码精度 单张A40显卡处理20万页/日的惊人产能 混合架构设计(DeepEncoder+MoE解码器)平衡性能与效率 项目已获得广泛关注,在OmniDocBench等基准测试中展现出7-20倍的toke原创 2025-11-14 10:20:58 · 953 阅读 · 0 评论
分享