
人工智能学习框架
文章平均质量分 96
观熵
走在AI与场景融合的前线,关注技术演进、产品迭代与智能时代的创新创业机会。
展开
-
vLLM 推理底层结构深解:PagedAttention、Token流式与并发调度解析
vLLM 是当前大模型推理部署领域最受欢迎的框架之一, 它在不改变模型结构的前提下,显著提升了推理吞吐与并发能力, 支持**token 流式输出(Streaming)、长上下文支持、OpenAI API 接口无缝适配**等一系列强特性。 本篇将以系统级视角,深入解析 **vLLM 的关键优化模块——PagedAttention** 的设计原理、KV 缓存机制、Token Scheduling 算法与高并发调度策略原创 2025-04-14 23:05:29 · 680 阅读 · 0 评论 -
PyTorch 从原理到实战:构建你的深度学习全栈能力
本系列系统梳理了 PyTorch 从底层原理到工程实战的完整知识体系。内容涵盖张量操作、自动求导机制、模块化建模、训练流程标准化、多模态数据处理、典型模型案例(CNN、LSTM、GAN)、混合精度与多卡训练、ONNX 部署、TorchScript 编译等核心能力,辅以 Lightning、HuggingFace、torchmetrics 等高阶生态工具。通过十章循序渐进内容,帮助读者从“会用 PyTorch”迈向“能构建可部署的 AI 系统”,适合工程师、研究者和 AI 初创团队作为系统学习与落地参考。原创 2025-03-23 12:12:07 · 441 阅读 · 0 评论 -
从深度学习到大语言模型:一文看尽AI学习框架的江湖格局
AI框架,就像是江湖门派的内功心法。有人练TensorFlow,走的是正统大宗、兵器多样;有人爱PyTorch,招式灵活、打得酣畅;还有些门派虽然偏门,但内劲深厚,一出手就能夺人眼球。更别说那群搞NLP、CV、RL、语音、联邦学习的分支门派,个个都有自己的独门绝技。今天咱们不卷论文,不谈模型参数,只想带你一口气逛遍AI框架的十六路诸侯,看看这江湖都谁在出招,谁又在闭关修炼。需求方向推荐框架理由通用深度学习一个偏灵活,一个偏部署,研究 & 工业双全快速原型低门槛,高效率,适合教学和demo。原创 2025-03-23 11:40:39 · 1232 阅读 · 0 评论