- 博客(81)
- 资源 (2)
- 收藏
- 关注
原创 HPC-X、MPI、PMIx 与 NCCL:GPU 集群通信栈全解
在 GPU 分布式训练中,HPC-X、UCX、PMIx、NCCL 各层职责极为清晰。本文从调用链角度深度解析每个组件的边界——HPC-X 在 ncclCommInitRank 完成后就退出关键路径,NCCL 热路径完全由 GPU kernel 驱动,CPU 不参与。
2026-03-30 04:09:11
563
原创 深入解析服务器内存架构:从DRAM颗粒到NUMA模式
本文将基于您的测试总结,并融合业界公开的技术文档与实践,构建一个从“底层物理”到“顶层架构”的完整知识框架。我们将首先深入 DRAM 颗粒的内部,理解其基本工作原理,然后将这些基础知识与 UMA、NUMA、SNC 及 Hemisphere/Quadrant 等系统级内存访问模式相结合,并以 Intel Emerald Rapids (EMR) 和 Granite Rapids (GNR) 的真实 CPU 架构为例,为系统架构师和运维工程师提供一份真正贯穿软硬件、清晰可落地的调优指南。
2026-03-14 21:25:01
887
原创 关于在 Kubernetes 环境中停止使用 CPU 限制的分析与建议
根据 Robusta 的文章《For the Love of God, Stop Using CPU Limits on Kubernetes》以及近期内部发生的多起事故,本文档旨在深入分析在 Kubernetes (K8s) 环境中设置 CPU 限制 (CPU Limit) 的弊端,并结合具体事故案例,提供解决及预防此类问题的最佳实践。核心结论是,在绝大多数情况下,应停止使用 CPU 限制,并专注于精确设置 CPU 请求 (CPU Request),以避免性能瓶颈和不必要的生产事故。
2026-03-10 08:01:27
483
原创 UFM 与 OpenSM:理解 InfiniBand 网络管理
UFM 和 OpenSM 都是 InfiniBand 网络的子网管理器(Subnet Manager),但两者定位不同: UFM 是 NVIDIA 推出的综合性企业管理平台,而 OpenSM 是一个轻量级的开源子网管理器实现。
2026-03-08 11:02:57
649
原创 深度解析AI互联技术:NVLink、InfiniBand、UALink与Ultra Ethernet的终极对决
在人工智能(AI)和高性能计算(HPC)的尖端领域,性能的瓶颈早已超越了单纯的处理器算力,转向了连接这些强大计算单元的复杂高速网络——互连技术。我们最近的深入探讨揭示了一个由NVLink、InfiniBand、UALink和Ultra Ethernet等技术构成的、充满竞争与互补的迷人世界。本文将系统性地梳理我们的核心发现,为您呈现一幅关于这些关键技术的全景图。
2026-03-05 22:30:53
555
原创 深度解析AI互联技术:NVLink、InfiniBand、UALink与Ultra Ethernet的终极对决
在人工智能(AI)和高性能计算(HPC)的尖端领域,性能的瓶颈早已超越了单纯的处理器算力,转向了连接这些强大计算单元的复杂高速网络——互连技术。我们最近的深入探讨揭示了一个由NVLink、InfiniBand、UALink和Ultra Ethernet等技术构成的、充满竞争与互补的迷人世界。本文将系统性地梳理我们的核心发现,为您呈现一幅关于这些关键技术的全景图。
2026-03-05 22:26:27
963
原创 kprobe vs kretprobe 深度对比
Linux 内核提供了多种动态探测机制,其中 kprobe 和 kretprobe 是最基础也是最常用的两种。它们都允许在运行时向内核函数注入回调,但设计目的和触发时机完全不同。kprobe:可以在内核任意可探测地址插入断点,提供 pre_handler(指令执行前)和 post_handler(指令执行后)两个回调点。kretprobe:专门用于函数级别追踪,提供 entry_handler(函数入口)和 handler(函数返回)两个回调点,并内建 per-instance 私有数据通道。
2026-02-27 08:56:05
344
原创 PyTorch 编译器技术深度解析:从 JIT 到 TorchDynamo 的演进
深入探讨 PyTorch 从 1.x 的 TorchScript (JIT) 到 2.x 的 torch.compile (TorchDynamo) 的架构演进、核心机制、设计模式与实践应用。包含详细的代码示例和对比分析。
2026-02-26 09:28:00
510
原创 网络回环测试深度解析
在单台服务器上测试两个网络端口之间的性能时,我们通常会得到两种截然不同的结果:一种是远低于网卡线速的“内部总线速度”,另一种则是接近物理线速的“真实网络速度”。这种差异的根源在于不同网络技术在处理本地流量时的决策逻辑。本页面将详细对比 标准TCP/IP以太网、InfiniBand (IB) RDMA 和 RoCEv2 (RDMA over Ethernet) 在此场景下的行为差异。
2026-02-25 03:13:09
533
原创 NVIDIA GPU Operator:全面深度解析
深入探讨 NVIDIA GPU Operator 的技术架构、核心组件、生命周期和高级特性。了解 Driver Manager 如何从 264 行演进到 876+ 行,掌握 JIT 编译模型,以及生产环境部署的最佳实践。
2026-02-25 03:06:47
679
原创 eBPF 深度技术指南:从底层原理到生产实践
深入剖析 eBPF 虚拟机底层实现、Probe 引擎机制、程序计数器跳转、硬件资源访问等核心技术。涵盖寄存器架构、指令编码、Kprobe/Kretprobe/Uprobe 实现原理、PMU 访问、JIT 编译优化、生产环境最佳实践等内容。适合系统工程师和内核开发者深度学习。
2026-02-23 03:04:44
832
原创 从 Agent 视角深度解析 Skill、Memory、A2A 与 MCP
Skill 是一种"架构模式",不是"训练方法"。它的精妙之处在于:通过巧妙的系统设计(文件系统 + 工具调用 + 渐进式加载),让模型能够动态获得新能力,而无需任何训练。读懂手册并按照指示操作(In-context Learning)使用手边的工具(MCP 提供的标准接口)记住之前做过的事情(Memory/RAG)必要时与其他人协作(A2A)
2026-02-22 02:57:57
790
原创 OpenClaw代理技术深度解析
本文档概述了部署在边缘硬件上的生产级 OpenClaw 代理系统的架构和实现。在为期四天的冲刺中,一个完整的系统被设计出来,从概念阶段过渡到稳定运行的实例。该项目涉及大量的硬件和软件集成,包括用于成本和延迟优化的双模型 LLM 策略、通过 OpenAI Whisper 实现的多模态输入以及异步通信渠道。这篇事后分析可作为从事类似基于代理的系统的工程师和架构师的技术深度解析。
2026-02-20 09:56:59
824
原创 在 NVIDIA Jetson Orin Nano 上部署 OpenClaw
本指南详细介绍如何在上部署OpenClaw——一个开源的自托管 AI 助手。Jetson Orin Nano 仅消耗 15 瓦功率即可提供 67 TOPS 的 AI 算力,非常适合作为全天候运行的个人 AI 助手平台。OpenClaw 可以连接 Telegram、WhatsApp、Discord、Slack 等即时通讯平台,并通过Ollama在本地运行 AI 模型,充分利用 GPU 加速。本指南基于版本的实际部署经验编写,同时涵盖云端 API 和本地模型两种配置方式。ClawBox 用户。
2026-02-17 12:07:17
1476
原创 QEMU 8.0 发布
本版本第一次正式支持在KVM5.12以及更新的版本上支持Xen guests。本版本同时删除了对32位X86主机的仿真支持。同时删除了VFIO V1协议的支持。QEMU 8.0 于4月19号正式发布,238名贡献者超过2800个commit。
2023-10-24 22:25:44
743
原创 vDPA Scalable Function setup for VMs
Software:qemu 5.1+MLX5_SFVDPAfunction:function:function:function:Ref:1.2.
2023-10-24 22:24:06
594
原创 Begining-To-End DPDK Guide
This guide is more of a tutorial that should guide you through all of the steps of installing DPDK and Open vSwitch from the packages built by the Debian Linux. This guide assumes the use of Intel Niantic NIC cards. Mellanox ConnectX3-Pro cards will be sup
2022-10-24 02:40:33
889
原创 QEMU 7.1发布
QEMU7.1于8月31号正式发布,本版本包括了来自238名开发者的2800+改动。本版本的新特性包括第一次支持64位LoongArch作为新的CPU架构、支持多个新的RISC-V扩展、支持新的Arm CPU功能
2022-10-24 00:15:00
794
原创 Step into the world of ARM Server
ARM with the full name of 'Advanced RISC Machine', is a famous RISC processor from cambridge England.
2022-06-10 01:47:36
960
原创 QEMU 7.0 发布
四月19号,新版本的QEMU 7.0 发布,本版主要包含了对英特尔 AMX 指令集支持(高级矩阵扩展),该指令集主要用于对英特尔至强服务器的扩展,该指令集提供了新的自定义 TMM“TILE”寄存器和用于操作这些寄存器中数据的指令,例如用于矩阵乘法的 TMUL(Tile matrix MULtiply)。另一个主要的变化是改善了镜像的fleecing备份。当前系统创建快照,然后通过写前复制 (CBW) 过滤器来更新快照的状态,从客户系统写入的区域复制数据。ARM架构增加了对“virt”机器中vi.
2022-05-23 02:12:08
726
原创 QEMU 6.2 发布
QEMU新版本 6.2.0 近日发布, 本次版本包含了2300多个commits,189个开发者参与其中.下载地址:download page. 完整修改日志可参考此次.QEMU 6.2 带来的变化和改进包括:针对 "powernv" 机器改进了 POWER10 的支持 增加了对 POWER10 DD2.0 CPU 的初步支持 PowerPC 的维护者由 David Gibson 和 Greg Kurz 变更为 Cédric le Goater 和 Daniel Henrique Barb.
2022-02-19 01:50:36
822
原创 QEMU 6.1.0 发布
QEMU新版本 6.1.0 近日发布, 本次版本包含了3000多个commits,221个开发者参与其中.下载地址:download page. 完整修改日志可参考此次.主要修改包括如下:block: support for changing block node options after creation via ‘blockdev-reopen’ QMP command Crypto: more performant backend recommendations and improv.
2021-10-24 23:26:55
2513
原创 闲聊Framebuffer
接触过图形相关的同学应该对Framebuffer这个名词不陌生,但Framebuffer究竟是什么,用来做什么,在我接触图形相关工作以前,对我来说一直是模糊的。本文主要闲聊Framebuffer。什么是Framebuffer?Framebuffer,也叫帧缓冲,其内容对应于屏幕上的界面显示,可以将其简单理解为屏幕上显示内容对应的缓存,修改Framebuffer中的内容,即表示修改屏幕上的内容,所以,直接操作Framebuffer可以直接从显示器上观察到效果。但Framebuffer并不是屏幕内容
2021-10-24 01:07:44
1599
原创 代码是如何控制硬件的
先说代码:我们是用电脑的键盘来输入的指令,每一个指令都对应一个ASCII码,而这里的ASCII码就是有序的电压的高低(或电流的有无,下面只提电压的高低),即我们输入的是电压的高低,你所看到代码是这些电压的高低控制显示器所显示的图像,其实电脑也不知道它是什么,只知道这样显示。结论:代码其实就是存储在存储器(内存、硬盘或者闪存等等)中有序的电压的高低。再说编译:编译是一个有序的电压的高低向另一种有序的电压高低的一种转换过程,下面以52单片机为例,我们编译是从表示ASCII码的那种有序电压高低
2021-10-23 22:58:01
412
原创 QEMU 6.0.0 发布
QEMU 6.0.0 版本与 4月30号发布,本版本涵盖了3300多个提交,共有268个开发者参与了本次的开发。本版本的主要升级如下:68k: 新增基于virtio设备的 ‘virt’ 机器类型。 ARM: support for ARMv8.1-M ‘Helium’ architecture and Cortex-M55 CPU ARM: support for ARMv8.4 TTST, SEL2, and DIT extensions ARM: ARMv8.5 MemTag extens
2021-06-25 03:13:17
687
原创 Setup Intel Optane DCPMM in KVM/QEMU Guests
We are using Intel Optane DataCenter Persistent Memory Module as the NVDIMM device here. Based on QEMU vNVDIMM support, we can use DCPMM in a Guest VM.Even though, QEMU could support nvdimm from version 2.6, but SLES only support NVDIMM in the host from
2020-12-28 22:03:12
857
原创 vfio-ccw dasd ipl support
This feature could support booting from vfio-ccw dasd devices.It is enabled in our SLE12SP5, SLE15SP1 and SLES15SP2This feature is actally using a real dasd for ipl device based on vfio-ccw bus.So it is not like using a vfio-cow qcow2 or just use th.
2020-12-23 04:53:49
657
1
原创 为什么我们要替换Docker?
为什么选择Dockerless?首先,我需要解释一下这个系列的标题:”Dokerless”。我们为什么不用Docker呢?或者我们为什么要用Docker呢?难道就没有别的选择了吗?IT社区在2013年第一次尝试容器的时候是否就已经提出了一个完美的解决方案呢?答案并不完全是肯定的。容器工业界竭尽全力避免虚拟化技术出现的情形,尽管拥有libvirt这样出色的工具,但我们并没有一套每个虚拟...
2019-10-24 22:09:06
3760
1
翻译 kubeCDN:一个基于Kubernetes的自托管CDN
摘要:在本篇博文中,作者主要讨论了kubeCDN的设计和实现,这个工具旨在简化Kubernetes集群的跨地域复制,以便在全球范围内部署高可用的CDN(内容分发网络)服务。正文:kubeCDN —基于Kubernetes的自托管CDN,详情请参阅GitHub在本篇博文中,作者主要讨论了kubeCDN的设计和实现,这个工具旨在简化Kubernetes集群的跨地域复制,以便在...
2019-07-28 02:10:26
745
翻译 关于TensorFlow 2.0你需要了解的一切
摘要:2019年6月26日,在Sao Paulo举行的PAPIs.io LATAM会议上,作为Daitan的代表,本文作者Thalles Silva举办了一个关于TensorFlow(TF)2.0的研讨会,并在会上探讨了一些关于TF 2.0的话题。研讨会的初衷是重点展示2.0版本同以往1.x版本的不同。本文回顾了会上讨论的主要内容:Keras-APIs、SavedModels、Tenso...
2019-07-28 02:04:55
393
翻译 亚马逊是如何进行软件开发的
亚马逊是如何进行软件开发的呢?如果你确实对这个话题感兴趣,不妨邀请三五好友,订上几个披萨,然后一起坐下来观看这个对 Ken Exner 的精彩访问,他是 AWS 开发者工具部的部门经理。这里着重强调 Ken 来自工具部,是因为毕竟每一个行业的进步都需要更好的开发工具。本访问强调了三个关键主题:细化团队、自动化和以客户为导向。关键思路:通过细胞分裂的方式来实现规模增长。团队以单个服...
2019-03-19 00:13:27
535
翻译 我们究竟应不应该使用框架?
AxonIQ商业主管及Axon 框架布道师Frans van Buul近日在其博客中发表了一篇关于框架和类库孰优孰劣的文章,引起了人们的热议。虽然很多人提倡类库反对框架,但 Frans 仍然提出了一些倾向于框架的见解,详细内容请见正文。AxonIQ商业主管及Axon 框架布道师Frans van Buul近日在其博客中发表了一篇关于框架和类库孰优孰劣的文章,引起了人们的热议。尽管很多人更倾...
2019-03-18 06:20:05
289
翻译 图解 Go 内存分配器
内存分配器一直是性能优化的重头戏,其结构复杂、内容抽象,涉及的数据结构繁多,相信很多人都曾被它搞疯了。本文将从内存的基本知识入手,到一般的内存分配器,进而延伸到 Go 内存分配器,对其进行全方位深层次的讲解,希望能让你对进程内存管理有一个全新的认识。物理内存 VS 虚拟内存在研究内存分配器之前,让我们先看一下物理内存和虚拟内存的背景知识。剧透一下,内存分配器实际上操作的不是物理内存而是...
2019-03-11 09:03:06
1160
翻译 白话解析分布式系统,小白也能看懂
西方诗歌有云,无人是孤岛,你我心相系。今天,这句话同样适用于计算机。我们身边的服务器,个人电脑以及数据存储一直都在彼此通信。其实,我们每天使用的(和在开发的)应用和服务也都是构成完整系统的计算元素,彼此进行着交互,尽管很多时候我们感知不到。对这些系统及其运行原理的研究属于分布式计算的一部分,而分布式计算又是分布式系统的核心所在。一方面,我们可以把分布式系统看作计算机科学的扩展或继续,它通常...
2019-03-06 04:10:04
258
翻译 2019 年软件测试现状调查
今年的软件测试行业现状调查旨在为测试从业者的职业发展以及行业未来趋势提供一些可参考的见解。2019 年是开展该调查活动的第六个年头:软件测试现状调查的初衷是找出现今测试行业的主要特征、应用实践以及所面临的挑战,以便展开深入讨论,为今后的改进指明方向。本年度调查活动由PractiTest的Joel Montvelisky和Tea-Time with Testers的Lalit Bha...
2019-02-24 11:42:10
755
翻译 C# 未来新特性:静态委托和函数指针
C# 每发布一次新版本,都会增加一些底层相关的新特性, 这些特性对大多数商业程序来说并没什么实际用处,主要用于那些对性能有很高要求的代码,如图形处理、机器学习以及数学工具包,等等。接下来的两个提案,主要实现了新的引用类型和函数调用方式。静态委托C# 中的普通委托是一种比较复杂的数据结构。它包含一个函数指针、一个针对 this 参数的对象引用(可选),以及一个指向委托链的链接。同其他...
2019-02-18 09:47:39
389
原创 virt-manager 2.1 新特性一览
二月三号,虚拟机管理软件virt-manager发布了最新的2.1 版本。相较于去年十月发布的2.0,该版本只做了小幅升级版本包括如下新功能:1. bash命令自动补充功能2. 从图形以及命令行上支持Vsock 功能3. 为 virt-xml增加 --os-variant参数4. virt-install 功能升级 更改默认选项 改善libosin...
2019-02-06 01:13:22
1197
原创 Accelerate your VM by OVS-DPDK in SUSE(Guest)
This article shows how to setup a vhost port in your vm with virtio device, implement a zero copy path for your virtual machines. Host Setup1. Backgroud2. Pre-requirement3. Host Setup3.1 ...
2019-02-01 04:23:28
981
翻译 OpenCL Caffe:一个可跨平台的快速机器学习框架
这篇2016年的论文阐述了深度学习框架Caffe的一个新分支。更具体的说,这是一个用支持开放工业标准的OpenCL后端取代了基于CUDA(闭源)后端的分支。代码最初存放在https://github.com/amd/OpenCL-caffe,成熟后合并到Caffe的官方地址下https://github.com/amd/OpenCL-caffe。在开发一个DNN(深度神经网络)模型的时候...
2019-02-01 04:15:07
2214
翻译 Linux内核将在5.1中增加硬件加速子系统
原文: https://www.phoronix.com/scan.php?page=news_item&px=Linux-Hardware-Accel-Subsystem作者: Michael Larabel 由于近年来为减轻CPU对某些特定任务的的计算负载,尤其是那些近来市场上刚刚普及的多芯片深度/机器学习任务,硬件加速被快速应用起来, 也因此Linux内核很有可能为这些不同...
2019-01-29 00:21:13
1012
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅