- 博客(84)
- 收藏
- 关注
原创 深度计算 Runtime 架构:模型资产部署、安全加载与执行协同全解析
对于创新的算子实现,Runtime 支持以动态库的形式进行热加载。这些自定义算子包(.so 文件)被投送到 Runtime 的地址空间,通过符号链接建立起与计算图节点的绑定关系。这种设计不仅提升了算子迭代的灵活性,也降低了基础运行时库的体积。按需加载机制:只有当图中确实引用了对应算子时才触发库加载。命名空间隔离:防止不同用户开发的同名算子在 Runtime 内部发生符号冲突。热更新支持:允许在不重启服务的前提下,通过更新算子包优化生产环境。
2026-02-06 21:09:50
498
1
原创 CANN ops-cv 算子库深度解析:图像处理与目标检测的硬件加速机制、异构存储管理与流水线优化
算子库是 CANN 异构计算架构中专门针对计算机视觉(CV)任务设计的加速层。其核心价值在于实现图像预处理(如缩放、色彩转换)和复杂后处理(如 NMS、ROI Align)的,从而彻底消除 Host-Device 间的数据传输瓶颈,并利用硬件的并行特性加速高复杂度、高访存密度的图像操作。
2026-02-06 21:08:42
471
1
原创 CANN Runtime 核心架构解析:连接算力与算法的执行中枢
在 CANN (Compute Architecture for Neural Networks) 的全栈软件体系中,组件扮演着承上启下的关键角色。作为应用程序与底层硬件之间的神经中枢,Runtime 不仅要屏蔽底层异构设备的复杂控制细节,还要负责将图引擎(GE)生成的计算图高效地映射为硬件指令流。它管理着从上下文创建、内存分配、流同步到任务异常处理的全生命周期,是保障 AI 任务在 NPU 上高性能、确定性执行的基石。
2026-02-06 21:06:34
505
原创 CANN Runtime 运行时与维测组件:异构任务调度、显存池管理与全链路异常诊断机制解析
runtime仓库定义了计算的执行规范。它通过 Stream/Event 机制实现了高度并行的异步调度,通过静态内存池技术解决了 LLM 部署中的显存瓶颈,并通过深度集成的维测组件提供了系统级诊断能力。Runtime 确保了无论 GE 编译出多么复杂的执行图,都能在物理硬件上以最高效、最稳定、可观测的方式准确执行。
2026-02-06 21:05:32
540
原创 CANN Runtime 运行时组件深度解析:任务调度机制、存储管理策略与维测体系构建逻辑
CANN Runtime 仓库体现了高性能异构计算的软件工程典范。它通过定制化的内存池化管理抵抗碎片化,通过基于硬件事件的精细化调度实现高并发,并通过强大的维测工具集成保障了系统的可观测性与可维护性。理解其 Stream/Event 模型和内存对齐机制,是优化任何部署在 CANN 架构上应用性能的基石。
2026-02-06 21:03:47
595
原创 CANN ops-nn 深度解析:神经网络算子库的硬件级优化策略
在 CANN 异构计算生态中,算子库是实现神经网络核心计算逻辑的高性能基础设施。它承载了从卷积、矩阵乘法到各种非线性激活函数(Activation)的底层实现。ops-nn 的设计目标是最大化 AI Core 的算力释放,方法是通过深度定制化,将上层抽象的计算图高效地转化为硬件指令流。这种软硬协同的优化,是保障大规模模型高性能执行的关键。
2026-02-06 21:02:33
379
原创 CANN ops-nn 算子库深度解析:神经网络计算逻辑的硬件映射、内存对齐与融合优化机制
ops-nn算子库通过对底层硬件单元的精细指令映射、创新的算子融合技术以及对动态形状的底层适应性,构建了高性能神经网络执行的基石。它将复杂的硬件能力转化为一系列高度优化、可复用的计算原语,是实现端到端低延迟推理的关键所在。
2026-02-06 21:01:08
568
原创 CANN ops-nn 算子库深度解析:神经网络加速引擎的底层映射、内存优化与融合计算机制
ops-nn 算子库不仅是计算函数的集合,更是连接神经网络数学描述与异构硬件底层指令的桥梁。它通过对矩阵与向量计算单元的高效调度、算子融合技术的深度应用以及精细化的显存规划,为深度学习模型在异构硬件上的加速提供了坚实保障。深入掌握 ops-nn 的运作机制,是开发者构建高性能 AI 应用、实现模型极致优化的必经路径。
2026-02-06 21:00:17
475
原创 极致分布式协同:HCOMM 通信底座的架构解析与性能演进
在超大规模深度学习模型训练中,单卡的计算能力已不再是性能的唯一决定因素,跨节点、跨链路的数据交换效率逐渐成为决定集群缩放效率的关键。HCOMM 作为计算架构中集合通信算法的底层支撑库,负责管理复杂的物理链路并提供高效的内存访问模式。通过对硬件资源的深度调度,它为分布式训练构建了一套高带宽、低延迟的逻辑通信网络。
2026-02-06 20:58:47
460
原创 【Linux系统】动静态库的制作方法与使用技巧
本文介绍了库的基本概念与分类,详细对比了静态库和动态库的优缺点。静态库在编译时链接到程序中,具有独立性强、性能好等优势,但会导致文件体积大且无法单独更新;动态库在运行时加载,能节省磁盘和内存空间,但存在依赖和兼容性问题。文章还演示了静态库的制作过程,包括编译源文件为.o文件、使用ar命令打包成.a库文件,并通过gcc命令链接生成可执行程序。通过具体示例展示了库文件从制作到使用的完整流程。
2025-12-22 22:25:34
779
3
原创 大模型有了 “身体”!魔珐星云实测:无 GPU 跑 3D 数字人,6 大优势破三角
魔珐星云平台通过低门槛、免GPU渲染技术,让开发者快速构建具身智能数字人。平台提供电影级渲染效果、低延迟交互和多终端适配能力,支持从注册体验到SDK开发的完整流程。文章实测演示了从创建数字人应用到本地环境部署的全过程,展示了AI导览助手等场景的实现方案,打破传统数字人开发的高成本壁垒,让企业及个人开发者都能轻松实现智能数字人落地。
2025-12-17 16:35:20
1846
1
原创 【Linux系统】ELF 文件格式的硬核揭秘
ELF文件格式是Linux系统中二进制可执行文件的标准格式,包含四种类型:可重定位文件、共享目标文件、可执行文件和内存转储。ELF文件由ELF头、程序头表、节头表和节组成,分别提供文件特性描述、段属性信息、节描述和具体数据存储功能。静态链接过程将多个目标文件合并修正地址偏移,生成最终可执行程序。虚拟地址空间初始化时,ELF文件的平坦编址方式直接对应进程虚拟地址布局,通过程序头表中的段信息初始化内存管理结构并填充页表。文中以ls程序和自编代码为例,演示了如何使用readelf和objdump工具分
2025-12-11 20:49:09
1817
13
原创 【Linux系统】GDB 调试完全指南:从基础到进阶,解决 90% 的 C/C++ 调试问题
本文介绍了GDB调试工具的核心使用方法。基础部分包括编译配置(-g选项)、常用命令(断点设置、变量查看、单步执行等)和常见问题解决方案。进阶部分讲解了条件断点、观察点等高级调试技巧,帮助定位复杂问题。文章还总结了GDB调试的核心工作流程,从编译启动到问题定位的全过程。掌握这些内容可以解决大多数C/C++程序的调试需求,如需更深入功能可参考官方文档。全文提供了实用的调试技巧和常见问题应对方案,是GDB调试的实用指南。
2025-12-03 00:33:12
1421
26
原创 【Linux系统】ext2文件系统
本文介绍了磁盘的基本概念、分类和存储结构。首先将磁盘分为HDD(机械硬盘)和SSD(固态硬盘),并比较了两者的优缺点。随后详细讲解了磁盘的物理结构,包括盘片、磁头、主轴和臂架等组件。在存储结构部分,重点阐述了CHS(柱面-磁头-扇区)寻址方式与LBA(逻辑块地址)之间的转换关系,以及操作系统如何通过块、分区和分组管理磁盘空间。最后介绍了文件系统中的关键数据结构inode,它用于存储文件的元数据信息,实现文件属性和内容的分离存储。全文系统性地梳理了磁盘的工作原理和操作系统对磁盘的管理机制。
2025-12-01 23:50:26
1797
31
原创 我的 C++ 自学之路:从一段 “笨拙代码” 开始
本文讲述了作者从大一开始自学C++的经历。初识C++时被其底层操作能力吸引,第一段代码是一个简单的学生信息排序程序,虽漏洞百出却充满成就感。随着深入学习,作者逐渐理解面向对象、内存管理等核心概念,并将心得体会整理成技术博客。文章强调C++的"难"恰恰是它的价值所在,能培养扎实的编程思维。作者分享了自己的成长历程,并邀请读者交流学习C++的故事。
2025-11-29 16:02:59
2117
5
原创 【Linux系统】线程的同步与互斥:核心原理、锁机制与实战代码
本文介绍了多线程环境下临界资源和临界区的概念,重点讲解了互斥锁(mutex)的原理和使用方法。通过抢票程序的示例,展示了不加锁时会出现的数据不一致问题,并详细分析了ticket--和ticket>0操作的非原子性导致票数为负的原因。文章阐述了互斥锁通过原子指令实现线程互斥的机制,提供了静态和动态两种初始化方式,以及加锁解锁的API调用方法。最后给出了一个简单的互斥锁封装类实现,包括Mutex类和自动加解锁的LockGuard类。这些内容为多线程编程中保证数据一致性提供了基础解决方案。
2025-11-28 11:02:42
915
15
原创 【Linux系统】打造属于你的命令交响曲:从零开始定制个性化 Shell
自定义 Shell 就像是为命令行创造一个独特的舞台,它不仅能提高工作效率,还能赋予编程更具个性化的表现形式。通过定制化的 Shell,每一行命令都变得生动,仿佛是与系统之间的一次艺术对话。
2025-11-27 00:32:53
1068
21
原创 【Linux系统】程序的灵魂与舞蹈:探索环境变量与地址空间的奥秘
环境变量在操作系统中的重要性,如何帮助程序在运行时查找库文件及指令路径;同时,深入探讨了程序的地址空间,揭示了虚拟地址如何通过页表映射到物理地址,进而确保进程的独立性与安全性。通过分析这些机制,文章揭示了操作系统如何高效、灵活地管理程序的内存和执行环境。
2025-09-13 12:06:53
1198
1
原创 【Linux系统】Linux进程的背后画卷:优先级与状态交织的动人故事
进程状态与调度算法决定了Linux系统中CPU资源的分配与任务执行的顺序。通过优先级、进程切换和状态管理,操作系统能够高效地调度进程,避免资源竞争和进程饥饿,确保系统稳定运行。
2025-09-11 21:12:28
1009
1
原创 【Linux系统】探索进程的生命周期:创建、终止、等待和程序替换的深度解析
进程创建、终止、等待和程序替换是操作系统中的核心概念,涉及程序生命周期的管理与优化。通过深入探索这些过程,我们能更好地理解计算机如何高效地调度和管理资源。
2025-08-21 14:37:00
880
1
原创 【Linux系统】进程的生命旅程:从创建到独立的演绎
进程是操作系统资源管理的核心单位,代表了程序的执行实例。通过系统调用如fork,操作系统能够创建和管理多个进程,使得每个进程在独立的环境中运行,确保资源的高效利用。
2025-08-14 23:09:04
994
1
原创 【Linux系统】计算机世界的基石:冯诺依曼架构与操作系统设计
冯诺依曼体系结构为计算机提供了基础框架,但其瓶颈限制了计算机性能的发展。操作系统则通过管理硬件资源,为程序提供高效的执行环境,并为开发者提供便捷的接口。
2025-01-27 14:39:05
6011
101
原创 【Linux系统】全面掌握APT、Vim和GCC:Ubuntu软件管理与开发指南
APT管理高效便,依赖处理少烦忧。Vim编辑模式全,快捷操作效率高。GCC编译步步清,静态动态随心用。
2024-12-23 13:26:49
4028
93
原创 【Linux系统】自动化构建与进度显示:全面解读 make 与 Makefile
makefile 规则清,自动化构建更省心。依赖关系一目了,编译管理如指掌。
2024-12-21 22:30:43
2667
94
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅