asterfusion的博客

焱融科技和星融元，分别作为专业、领先的 AI 存储服务提供商和开放网络解决方案提供商，致力于提供高带宽、低延时、高可靠的数据存储与传输解决方案，为 AI 和 HPC 等高性能工作负载提供坚实支撑，保障先进算力的高效释放，加速企业创新成果落地。，面向 AI/ML 智算中心和云计算数据中心提供一站式全开放网络解决方案，以其构建的超低时延无损以太网，通过 RDMA 技术在以太网上的实现，帮助高性能计算方案突破网络瓶颈，为计算集群提供低时延、零丢包、高性能的网络环境。

近期，由博通、思科、Arista、微软、Meta等国际顶级半导体、设备和云厂商牵头成立的超以太网联盟（UEC）在OCP Global Summit上对外公布其最新进展——UEC规范1.0的预览版本。让我们一睹为快吧！

NVIDIA提供的NCCL是当前面向AI的集合通信事实标准，NCCL-Test 是 NVIDIA 开源的工具，我们可以在官方Github下载来进行不同算法的性能测试（例如：ring，trees…）。本次测试使用All reduce的ring算法来进行性能评估。

在拥塞控制方面，RoCE结合了PFC, ECN和DCQCN提供了一套开放的方案，IB则拥有基于Credit的一套高度集成的方案，但在应对大规模集合通信流量时均有所不足。在QoS方面，RoCE可以实现每个优先级的带宽保证，而IB仅能实现高等级的优先转发。在ECMP方面，两者均实现了基于Hash的负载分担。总结来看，IB具备已验证的高性能和低延时优势，RoCEv2则在互操作性、开放性、成本效益方面更胜一筹，且从市场占比及认可度来看，RoCEv2逐渐比肩IB；

RoCE和InfiniBand均是InfiniBand Trade Association（IBTA）定义的网络协议栈，其中Infiniband是一种专为RDMA设计的高性能网络，它从硬件层面确保了数据传输的可靠性，为了进一步发挥RDMA的优势，IBTA在2010年定义了RoCE。RoCE则是Infiniband与以太网技术的融合，它在保持Infiniband核心优势的同时，实现了与现有以太网基础设施的兼容性。

经过严格的软硬件兼容性测试和调优，AsterNOS 将可在天弘集团（Celestica，以下简称“天弘”）DS3000（基于Broadcom Trident III 交换芯片的 40GbE/100GbE 白盒交换机）和 DS2000（基于 Broadcom Trident III 交换芯片的 10GbE/25GbE 交换机）上使用，以上两款交换机将加入AsterNOS硬件兼容列表，为数据中心客户提供完整的交换机软硬件一体系统。这一转变不仅是技术上的进步，也是市场对成本效益和灵活性迫切需求的反映。

目前最常见的AI算力中心部署的GPU集群大小为 2048、1024、512 和 256，且部署成本随 GPU 数量线性增长。本文将以相对折中的1024 GPU卡（H100）的规模为例展开分析。

本文将从硬件选型，到服务器侧的基础配置、GPU驱动安装和集合通讯库配置，以及无损以太网的启用，直至大模型导入和训练测试，带您跑通搭建分布式计算环境的全流程。

P4是一种开源的、数据面的高级编程语言。P4和基于P4的芯片平台（Tofino）自诞生以来便引起了学术界与工业界的广泛关注。但就在今年8月，Intel宣布Tofino产品即将停产，最后停产的订单日期截止到10月30日，这将为Tofino产品的生命周期画上一个句号。

算力即计算能力（Computing Power），狭义上指对数字问题的运算能力，而广义上指对输入信息处理后实现结果输出的一种能力。虽然处理的内容不同，但处理过程的能力都可抽象为算力。比如人类大脑、手机以及各类服务器对接收到的信息处理实际都属于算力的应用。图1：信息处理过程随着信息技术的不断发展，《中国算力白皮书（2022）》中将算力明确定义为数据中心的服务器通过对数据进行处理后实现结果输出的一种能力。

P4网络可编程技术在提升网络性能、降低投资和运维成本以及促进网络创新方面具有显著价值。面对灵活多变的网络需求，P4提供了新的解决方案。在未来三年内，我们仍可使用P4可编程技术来应对不断增长和演变的网络挑战。

P4语言的编译器设计体现了模块化思想，各个模块通过标准化配置文件进行信息交换。这种设计赋予了P4语言三大关键特性：协议无关性、目标无关性和可重构性。它允许用户自定义数据平面的报文处理逻辑，提高了数据平面的可编程性，使得网络设备能够灵活地支持各种新兴的协议和功能。

随着AI技术的快速发展，尤其是大模型的训练和推理过程，数据量呈爆炸式增长，这也对底层基础设施提出了更高的要求，网络传输必须朝着更高带宽和更高密度的方向发展以满足需求。800G以太网在400G的基础上进行扩展，提供800Gbps的数据传输速率。

本文详细介绍了WiFi 6基于802.11k/v/r协议实现的无缝漫游技术，并展望了WiFi 7在带宽、时延、多用户性能及链路机制等方面的优势。同时，提出了基于分布式网关和无CAPWAP的VXLAN隧道两种新型无线网架构，旨在解决传统组网方案的局限。

无线漫游是指确保无线终端STA在移动过程中能够保持不间断网络连接的技术。在无线局域网中，每个AP设备的信号覆盖范围都有限，无线终端用户在通信过程中会从一个AP信号覆盖区进入到另一个AP覆盖区域，为了避免用户在不同的AP之间切换时，网络通讯中断，需要借助无线漫游技术。

我们想让一些企业内部私有数据也进入到大模型推理分析的过程，让其更好服务于日常业务，但出于信息安全等考量，私有数据显然不可随意上传到第三方平台。针对这种情况，将企业内部知识库和大模型连接起来构建一个本地私有化的专属的AI知识库不失为一种简易的解决方案。

智算需求激增催生算力网络，后者目标是实现算网融合，两者为智算提供基础设施。算网融合推动算力和网络深度融合，提升系统性能。智算时代需灵活敏捷、无损安全、感知可视的算力网络，可运用Kubernetes、DCB协议、INT技术等打造。

智算与云网融合的关系是什么？介绍了智算和云网融合的概念以及二者关系，详细解释SDN和NFV架构

AI大模型（Artificial Intelligence Large Model）是指具有庞大参数规模和复杂程度的神经网络模型，它们通过大规模的数据训练，能够在各种任务中表现出高度准确和广泛的泛化能力（即对新鲜样本或未知数据的适应能力）。

无线网络直接影响整体网络性能，在当今企业网环境中，已有超过一半的数据流量通过无线信道传输，随着物联网技术的普及，无线网将承载更多的关键业务流量。企业/园区场景的无线网络值得考虑的关键因素有很多，例如终端移动性，AP 漫游能力和覆盖范围、带宽和吞吐量、延迟、信道、射频干扰等。当然，还有网络安全配置和用户认证等等。