sglang hisparse 内存分配分析
2026-09-10 12:07:19
196
使用 wintun构建tcp流量中转服务
2026-09-06 17:46:59
243
分析 vllm hisparse 的运行原理。
2026-08-16 18:52:06
220
分析 vllm 中 deepseek v4 的 kv cache布局以及寻址方式
2026-08-14 23:16:40
331
vllm 实现的Hisparse代码分析。Hisparse主要面向sparse Attention场景，将全量kv cache 存入内存，而HBM中只分配一定大小的hot cache。这样可以降低HBM占用，使得推理程序可以配置更大的batch size。
2026-08-08 16:02:05
357
分析mori通信库 对称内存初始化和 p2p 映射的处理过程
2026-07-03 15:49:41
445
分析sue仿真代码中的 基于信用的流控机制 和 链路层重传的处理。
2026-07-01 16:50:25
286
分析 amd gpu上实现的mori通信库
2026-06-30 10:59:25
354
分析 vllm pp 并行场景的处理流程
2026-06-26 17:35:48
231
分析了hpcc 拥塞控制算法的仿真代码，主要是pfc数据帧的处理过程。
2026-06-25 17:33:03
243
分析vllm deepseek v4 SWA，CSA，HCA的计算过程
2026-06-03 12:50:53
446
分析vllm 中 llama模型的模块组成
2026-06-01 15:03:36
266
分析 FlexKV 缓存异步读写接口
2026-05-30 16:54:29
328
分析 FlexKV 中的 缓存管理的数据结构，radix tree
2026-05-30 11:27:53
240
分析 LMCache的多进程模式
2026-05-28 10:39:40
424
分析 LMCache 的主要处理流程。
2026-05-26 11:34:13
474
vllm kv cache offload的处理流程
2026-05-23 14:01:42
355
分析nccl gin的数据发送过程，以及内存地址映射模式的差异
2026-05-18 20:33:35
654
结合nccl代码库，分析rdma网络带外建链流程
2026-05-16 11:05:21
257
在海光dcu平台上抓取vllm profiler
2026-05-15 09:10:25
153
分析vllm pd分离场景，从远程拉取 kv cache的处理流程
2026-05-13 12:06:19
417
分析vllm kv cache的初始化流程，Tensor的分配和赋值。
2026-05-12 14:16:13
174
分析nccl集合通信库数据的发送和接收过程，代理线程同核函数的交互
2026-05-10 18:43:04
485
分析海光dcu平台上实现的高性能矩阵乘法(GEMM)
2026-05-09 14:52:33
343
分析vllm从engine core 到worker的处理流程
2026-05-08 16:12:19
318
分析vllm http服务接口的注册过程
2026-05-07 20:20:23
231
vllm多节点多dp启动过程分析
2026-05-06 20:51:57
530
分析deepep中notify dispatch的函数细节
2026-05-01 16:09:19
404
分析flashinfer代码库中attention算子的实现细节
2026-02-17 20:21:40
784
本博客分析tvm ffi开源项目。聚焦python代码到c++代码的调用过程
2026-02-05 21:07:47
832
分析华为昇腾AscendC算子
2026-01-18 11:30:45
1051
分析xllm中pd分离场景的处理流程
2026-01-16 14:22:46
728
分析xllm模型的推理过程，一致到算子层接口
2026-01-14 17:54:30
671
分析Request在xllm中的处理过程
2026-01-13 21:03:02
468
分析推理框架xllm的启动过程
2026-01-12 21:15:57
480
torch_npu.npu_moe_distribute_combine算子实现分析
2025-11-23 18:15:42
1213
昇腾平台MoeDistributeDispatch算子代码分析
2025-11-22 21:58:44
1106
moe token permute unpermute 算子分析
2025-10-18 16:38:15
745
2
一种低时延的拥塞控制算法
2024-09-17 10:41:11
827
7
bbr算法被移除的原因分析
2023-05-10 21:38:41
1804
12
RSS订阅