- 博客(213)
- 收藏
- 关注
RSS订阅原创 使用 NVIDIA RTX Spark 在一台机器上进行编码、测试和部署
NVIDIA RTX Spark 将本地编码智能体、模型微调、编译、测试与部署整合到一台机器。本文介绍 GB10、128GB 统一内存与 Grace/Blackwell 架构的开发性能，Windows on Arm、PyTorch-CUDA 和 CUDA-X 软件生态，以及 Pi、Junie Local、Nemotron 模型、媒体 AI SDK 和现有 Windows 应用迁移路径，帮助开发者在本地构建并部署 AI 应用。
2026-11-01 17:00:20
131
原创 深入了解 NVIDIA Sentry：运行时安全 AI 智能体
本文介绍 NVIDIA Sentry 如何在 BlueField-4 DPU 的独立信任域中为 AI 智能体提供运行时保护。通过 DOCA Tower 检查通信与执行访问策略，结合 DOCA Argus 实时内存内审、身份验证、专用模型行为检测和防篡改遥测，将 OpenShell 的软件安全边界扩展到硬件隔离防护，并与企业 XDR、SIEM 平台集成。
2026-11-01 16:19:34
103
原创 NVIDIA OpenShell 参考架构如何大规模保护和治理 AI 智能体工作负载
本文介绍 NVIDIA OpenShell 参考架构如何在智能体之外实施确定性治理，并结合 NVIDIA Vera CPU、BlueField-4 DPU 和 NVIDIA Sentry，构建兼顾性能、隔离与运行时安全的可扩展智能体基础设施。涵盖网关、Supervisor、沙盒、策略验证器，以及 CoreWeave 的沙盒启动和智能体任务性能测试。
2026-10-29 23:21:57
196
原创 China AI Infra Day 从物理到虚拟：网络基础设施驱动 AI 工厂 重磅来袭！
存储架构，解析如何减少重复计算、加速推理响应，提升规模化。3. 填写报名信息并提交，即可完成注册。网络创新与重要动态，聚焦五大网络架构与。或复制并打开以下链接，进入报名页；从物理到虚拟：网络基础设施驱动。本次在线研讨会将探索。技术专家带你打破技术壁垒，解锁。更有价值：网络与存储的协同之道。加入本次研讨会微信直播交流群。构建超大规模网络：适用于百万。工厂性能优化与部署验证。打破数据瓶颈：面向代理式。数字孪生，探索超大规模。：围绕网络与存储协同、高性能组网实现十亿瓦级。：聚焦五大网络架构、
2026-10-27 16:08:53
89
原创 NVIDIA AI 培训班 | 10 月 29 日《为大语言模型添加新知识》开课，转化开源 LLM 为领域 AI 资产
课程以 Meridian Response 为基础，这是一个虚拟的人道主义物流组织，需要对传入的防洪响应现场报告进行分类并将其分配到正确的团队。您将首先构建一个评测，定义该任务“更好”意味着什么，然后度量一个库存 8B 开放权重模型，测试提示词的上限，生成针对性的合成训练数据，使用监督微调训练 LoRA 适配器，并在任务行为基本到位后，使用直接偏好优化 (DPO) 来提高响应质量。，访问 NVIDIA 认证中文官网，点击每一门认证科目介绍页面，查看详细的考试大纲、考前学习指南、推荐培训和更多资源。
2026-10-27 11:08:33
211
原创 密集与 MoE 模型：活动参数、吞吐量以及选择每个模型的时间
本文比较密集模型与 MoE 模型的活动参数、吞吐和路由机制，说明在质量、延迟、显存与部署约束下如何选择模型架构。
2026-10-09 15:23:48
144
2
原创 如何使用 AI 智能体准备用于仿真的 3D 场景
本文展示 AI 智能体如何把 Blender 场景准备成用于仿真的 OpenUSD 资产，包含语义、材质、传感器、物理属性、渲染预检和 SimReady 验证。
2026-10-09 15:22:27
322
原创 借助 NVIDIA Earth-2，将您的最新观测结果转化为及时的天气决策
本文介绍如何用 NVIDIA Earth-2 和 Earth2Studio 将最新气象观测纳入预测，演示区域与全球数据同化工作流，以及 CorrDiff-SDA、StormCast-SDA 和 HealDA。
2026-10-09 15:20:18
242
原创 TensorRT Edge-LLM 在 Jetson AGX Thor 上实现 MLPerf Edge Agentic Benchmark 6.4 倍加速
本文分析 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic 基准测试的优化方法，包括 NVFP4 量化、KV 缓存复用和多 token 预测。
2026-10-09 15:19:08
92
原创 如何评估从工具调用到任务完成的 AI 智能体
本文介绍从工具调用到任务完成的 AI 智能体评估方法，涵盖任务成功率、执行时间、成本、可复现基准和端到端验证。
2026-10-09 15:17:56
76
原创 使用 AI 智能体和 NVIDIA Isaac ROS 加速 ROS 2 节点
本文展示如何用 AI 智能体与 NVIDIA Isaac ROS 加速 ROS 2 节点，通过识别数据传输瓶颈、采用 CUDA 缓冲区后端并验证机器人工作流的性能。
2026-10-09 15:16:44
63
原创 面向游戏开发者的新功能：DLSS 5 (支持 3D 引导神经渲染) 、NVIDIA ACE 更新和全新 RTX Kit 功能
本文汇总面向游戏开发者的 DLSS 5、NVIDIA ACE 与 RTX Kit 新功能，介绍 3D 引导神经渲染、开发者控制和角色交互等技术。
2026-10-09 15:14:53
271
原创 NVIDIA NVLink 6 如何为 AI 工厂提供多层弹性
本文说明 NVIDIA NVLink 6 为 AI 工厂提供的多层弹性机制，包括链路、交换与系统级故障恢复，及其对训练和推理服务连续性的作用。
2026-10-09 15:05:12
57
原创 借助 NVIDIA Dynamo-Triton 中的 NVIDIA TensorRT 多设备集成，简化跨多个 GPU 的模型服务
本文介绍 NVIDIA Dynamo-Triton 对 TensorRT 多设备推理的集成，展示如何在多个 GPU 上部署模型，并通过 Cosmos 3 上下文并行测试延迟与输出一致性。
2026-10-09 15:02:47
53
原创 借助 NVIDIA Topograph 实现拓扑感知型工作负载调度
本文介绍 NVIDIA Topograph 如何识别 GPU 集群拓扑，并在 Kubernetes、Slurm 等环境中为 AI 工作负载提供拓扑感知调度，减少跨域通信和资源浪费。
2026-10-09 12:34:57
83
原创 借助 NVIDIA 机密计算实现私有高性能生产级 AI 推理
本文介绍 NVIDIA 机密计算如何在私有生产级 AI 推理中保护敏感数据，并比较机密计算开启与关闭时的吞吐和延迟，分析数据传输、内核调优及多 GPU 通信的性能开销。
2026-10-09 12:32:57
42
原创 介绍 CUDA Rust：用于编写 GPU 内核的两条轨道
CUDA Rust 提供 cuda-oxide 与 cutile-rs 两条原生 GPU 内核开发路径。前者保留 SIMT 线程控制，后者使用 Tile 抽象和 CUDA Tile IR。本文比较编译链、内存安全与当前成熟度。
2026-10-09 11:57:51
143
原创 CUDA 工具包 13.4 在 Arm 上添加了 Windows 支持，并增强了对共享 GPU 的控制
CUDA 13.4 扩展 Windows on Arm 支持，预览 Rubin 架构，并更新 MPS V3、跨 GPU 传输、CUDA Python、CCCL 与 Nsight 工具。本文梳理对应用迁移和共享 GPU 管理最关键的变化。
2026-10-09 11:56:26
127
原创 何时使用“编码-预填充-解码”解耦技术来加速多模态模型服务
NVIDIA Dynamo 的 EPD 解耦将视觉编码与 LLM 预填充、解码分开调度。文章分析图像负载、输出长度、模型规模、精度和混合流量如何决定 TTFT 与吞吐收益。
2026-10-09 11:55:37
137
原创 GR-Inference：面向生成式推荐的推理系统设计与性能评估
生成式推荐具有长上下文、极短解码和数百条动态 Beam。GR-Inference 通过请求级状态管理、分离 KV、专用 Attention 与 GPU SID Trie 优化这一负载，并在给定 SLA 下提升吞吐。
2026-10-09 11:53:23
321
原创 使用预测解码共同设计 AI 模型，加快 LLM 推理速度
预测解码通过草稿 token 与目标模型并行验证减少自回归迭代。本文梳理草稿长度、接受长度、验证成本与草稿成本的关系，以及在不同延迟和吞吐目标下选择草稿机制的方法。
2026-10-09 11:52:22
288
原创 现代 CUDA 工具箱的实际应用：分步优化演练
以 RGB 图像转灰度并计算 32×32 图块中值为例，串联 Compute Sanitizer、Nsight Systems、CUB、CCCL 内存容器和 CUDA 流，说明如何先定位错误与瓶颈，再逐步优化 GPU 程序。
2026-10-09 11:51:38
294
原创 使用 NVIDIA Nemotron 构建自适应代理式网络安全系统
NVIDIA 与 CrowdStrike 在隔离环境中评估红蓝智能体闭环：攻击生成遥测，防御智能体编写并验证检测，再以新攻击复测。文章介绍 Nemotron 分工、检测验证机制、实验结果及其适用边界。
2026-10-09 11:47:48
82
原创 前沿推理触手可及：如何在 NVIDIA Jetson 上部署和优化模型
紧凑型开放推理模型已能在 NVIDIA Jetson 本地运行。本文比较 Nemotron 3.5 Lightning 与 Qwen3.8-27B 的架构取舍，解释 NVFP4 与预测解码的作用，并给出部署和工作负载验证思路。
2026-10-09 11:44:51
275
原创 构建面向大规模 VLA 的端云协同后训练闭环：使用 verl-vla 统一数据采集、微调与强化学习
大规模 VLA 的推理、仿真、数据采集和人工干预往往分散在云端 GPU、仿真节点与真实机器人上。verl-vla 通过 TrainCluster、Web 遥操作和可组合 Workflow，把示范采集、监督微调、评测与强化学习接入同一端云闭环，并提供 Isaac GR00T、Isaac Lab Arena、RECAP 与 DSRL 的可复现配方。
2026-10-09 11:07:56
297
原创 使用 NVIDIA NemoClaw 构建内存驱动型智能体
本文介绍基于NVIDIA NeMo Claw构建的内存驱动型智能体——办公室主任，通过结构化自我模型（人员、项目、优先级等）实现企业工作流的持续上下文维护与决策优化。该设计强调证据、知识与行动分离，支持选择性检索、用户校正与审计追踪，提升任务准确性与可信度。实测显示，其在事实跟踪、实体消歧、多源合成等任务上显著优于传统RAG。结合NVIDIA OpenShell实现安全沙盒运行，保障权限与边界控制。文章提供可复用的开源配方，涵盖内存架构、分类帐与离线演练，助力开发者构建高效、可信的企业级智能体。
2026-09-18 11:14:18
359
4
原创 使用 NVIDIA Isaac GR00T 开发端到端人形机器人策略
随着越来越多的团队从人形机器人启动转向特定任务的技能开发，对可重复开发工作流的需求也与日俱增。构建人形机器人仍然十分复杂，而且当今的开发流程仍然高度分散。因此，开发者在专注于构建机器人功能之前，会花费大量时间来配置机器人基础设施。虽然机器人社区已经开发出跨流程各个阶段的工具，但由于软件生态系统孤立、数据格式不兼容以及工具之间的手动集成，将它们连接到无缝工作流仍然是一项挑战。为解决这一问题，我们推出了：这是一个开源人形机器人平台，可统一流程的每个阶段，以加快开发速度。
2026-08-04 12:01:51
4041
10
原创 让长时间运行的 NVIDIA TensorRT 引擎在 Python 或 C++ 中构建可观察和可取消
构建 TensorRT 引擎可能需要几秒钟到几分钟的时间。大型强类型模型、深度策略搜索和全新 GPU SKU 上的冷定时缓存可能会让开发者、最终用户或 AI 智能体盯着冻结的终端，而不知道是否要等待、重试或终止该进程。大多数 NVIDIA TensorRT 集成在构建过程中不会报告任何内容，或者无法提前终止。在长时间运行的智能体工作流中，这会浪费 GPU 小时并导致会话卡顿。图 1. 用于 TensorRT 引擎构建的实时嵌套进度条，由 IProgressMonitor 子类渲染TensorRT 提供。
2026-08-04 12:00:00
3703
6
原创 如何借助 RL 智能体技能和 NVIDIA NeMo 运行自动研究工作流
编码正成为长期运行的机器学习 (ML) 工作流程的实用运算符。他们可以检查资源库、设置运行时、解决构建问题、启动实验、监控执行、分析指标并汇总结果。对于研究而言，这一点很重要，因为有意义的指标通常只有在基本实验基础设施就绪后才会出现。是 Andrej Karpathy 的一个开源 Python 项目，用于自动化 AI 和 ML 模型训练。通过这种方法，将高层次的目标转化为假设，编辑和测试真实的代码库，保留改进指标的想法，并将结果交还给人类研究人员。这使得团队能够从高性能开放模型 (例如。
2026-08-04 11:58:31
3578
12
原创 在 NVIDIA GB200 NVL72 上使用 GPU 加速的 Presto 运行低延迟分析工作负载
是一个开源分布式 SQL 引擎，可对超大型数据集快速运行交互式查询。在 NVIDIA GPU 上，Presto 可为分析查询工作负载提供峰值性能，并为用户和智能体提供低延迟。GPU 加速的 Presto 可降低分析工作负载的延迟，让您和智能体畅通无阻并尽可能快地进行迭代。本文将介绍如何使用单节点和多节点在扩展分析基准测试中高效执行多 GPU Presto。我们还强调了在与数据源搭配使用时对 NVIDIA GB200 NVL72 上的高 I/ O 吞吐量的重要性。
2026-08-04 11:56:38
3667
8
原创 案例分享 | 基于 NVIDIA DGX Spark 的智能安防与工业智能方案开发应用
NVIDIA DGX Spark以GB10超级芯片与128GB高速统一内存为核心算力底座，凭借轻量化、全流程、高性能的特性，系统性解决智能安防与工业智能方案研发过程中数据处理慢、模型迭代难、推理延迟高、落地验证繁琐等痛点。通过构建视频智能分析、设备预测性维护两大AI能力体系，全方位赋能安防智能化管控与工业数字化运维，为智慧城市、智能制造领域的轻量化AI研发与场景落地提供高性能、高可靠的标杆方案。后续可依托平台拓展更多细分场景AI模型，持续拓宽行业智能化应用边界。
2026-08-04 11:55:00
2899
6
原创 在 NVIDIA CUDA 13.3 中使用无带乘法构建更快的加密技术
CUDA 13.3 为 NVIDIA GPU 带来了一个缺失的基元：硬件加速的无携带乘法。我们对两个工作负载 ( GHASH 和 sum-check 协议) 进行了基准测试，在 B200 上，速度分别提高了 18.8 倍和 13 倍。最大的收益显示了现代密码学的发展方向：大输入身份验证加密和二进制域零知识证明。
2026-08-04 11:53:55
3705
3
原创 NVIDIA Nemotron 3 Ultra 在代理式 RTL 编码的准确性和效率方面引领开放模型
现代芯片设计日益受到工程时间的限制。寄存器传输级 (RTL) 开发和验证需要具备专门的硬件知识、精确的推理能力以及与电子设计自动化 (EDA) 工具的重复交互。LLM 加速了代码生成，而 AI 智能体通过使用验证反馈来迭代纠正错误，从而扩展其影响。这对于 RTL 至关重要，因为 RTL 的正确性取决于精确的时间行为，并且许多错误仅在基于工具的验证期间才会出现。
2026-08-04 11:52:19
3806
5
原创 NVIDIA DGX Spark：端到端智能人才招聘解决方案，赋能企业发展
人才招聘数字化转型已是企业刚需，传统人工招聘模式效率低、误差大、周期长等痛点严重制约企业发展。NVIDIA轻量化个人 AI 超算 DGX Spark 打造本地部署、高速推理、数据安全的智能招聘解决方案，依托 AI 自动简历解析、大数据多维度人岗匹配、全流程智能协同三大核心能力，一站式解决招聘全周期各类痛点，在人力投入、人岗匹配精度、招聘周期三大维度实现突破性优化，为各规模企业搭建高效、精准、安全的现代化人才招聘体系。
2026-08-04 11:49:56
3695
10
原创 使用 NVIDIA Nemotron 构建用于工业警报管理的分析 AI 智能体
工业机械产生的警报数量超过技术人员能够进行分类的数量。对于每个需要跟进的重要警报，技术人员都会提取历史背景，确定正确的程序，检查专家信号是否确认故障模式，并编写建议。此过程保持一致，非常适合。本文将讨论使用库构建的按警报分析 AI 智能体，使用开放智能模型和安全运行时。该智能体是端到端 GPU 加速的，位于单个 HTTP 端点的后面。任何上游 (流中过滤器，操作者用户界面中的单击按钮) 都以同样的方式调用它。工具和大脑一样重要。从汽车和火车到电梯和工业电机，机器之间的连接日益紧密。
2026-08-04 11:48:54
3622
6
原创 参赛倒计时｜仅剩最后 10 席！第二届 NVIDIA DGX Spark 黑客松 · 线上训练营报名同步开放，名额有限，欲报从速！
依托 NVIDIA DGX Spark 高性能算力平台，鼓励各参赛团队突破技术边界，打造具备感知、理解、自主创作与迭代优化能力的 AI 智能体，探索 Agent 在内容生产、自动化工作流、多模态创意场景下的创新落地实践。机会有限，先到先得！线上训练营正在火热招募中，参训伙伴可以全程跟进赛事进程，免费学习 NVIDIA DLI 技术课程，获得官方结课证书，并与参赛队伍一同开展技术交流、共同学习成长。赛事特设线上训练营，由 NVIDIA 及合作伙伴技术专家授课，全程免费，提供直播回放，内容聚焦实操、紧贴赛题。
2026-07-01 10:08:36
4180
9
原创 PICO 展示PICO 4 Ultra支持 NVIDIA Isaac Teleop，共同推进标准化的开源机器人遥操方案
这一合作旨在解决大规模机器人数据采集的瓶颈，通过 PICO 先进的 XR 硬件与 NVIDIA Isaac 开放机器人开发者平台的深度融合，为全球机器人开发者提供一套标准化、高保真的数据生产管线。针对上述痛点，借助 NVIDIA CloudXR.js SDK，PICO 4 Ultra 能够无缝接入 NVIDIA Isaac 远程操控工作流，无论是面对现实中的实体机器人，还是虚拟仿真环境里的机器人，都能提供一套完整的远程操控方案。的下一代旗舰头显的技术预览，包含双眼 4K 显示，更强的计算和混合显示能力。
2026-06-02 13:28:33
3973
2
原创 NVIDIA CUDA 13.3 通过 C++ 中的平铺式编程、编译器自动调整和 Python 更新来增强 GPU 开发
NVIDIA CUDA 13.3 为整个 CUDA 生态系统的开发者带来了新功能和性能优化。通过在 C++ 中引入，支持基于 Tile 的高级内核开发，能够自动管理复杂的底层 GPU 细节，从而实现卓越的性能和可移植性。此外，CUDA Tile 编程现在不仅支持所有其他已支持的 GPU 架构，还新增了对计算能力 9.0（NVIDIA Hopper）GPU 的支持。我们还将发布 CUDA Python 1.0，巩固 CUDA Python 软件生态系统的支持和稳定性，并引入绿色上下文和进程检查点等关键功能。
2026-06-02 13:26:44
4134
9
原创 掌握代理式技术：AI 智能体评估
评估AI模型与评估AI智能体密切相关，但两者回答的问题截然不同。模型基准测试衡量的是基础模型的能力，例如理解语言、遵循指令或解决静态任务的能力；而智能体评估则关注端到端系统的行为，包括规划、调用工具、处理不确定性，以及在动态环境中完成实际工作流程的表现。本文将解释模型和智能体评估之间的主要区别，并介绍将 AI 智能体作为生产系统进行评估的五个实用技巧。这种评估方法侧重于轨迹、工具和结果，而不仅仅是模型分数。
2026-06-02 13:24:16
3783
8
原创 在阿里云 PAI 平台实现规模化的机器人感知强化学习
在未改变其他超参数的情况下，由于训练吞吐量提升，训练时间从单 GPU 的 1.3 天压缩至 4 GPU 的 12.5 小时，这对于需要反复迭代超参数、快速验证新策略的研究人员而言，是一次具有变革意义的效率跃升。Isaac Lab-Arena 目前是 alpha 版本，后续版本将重点支持更具智能体特征、以提示词优先的场景与任务生成，增强并行评估中的异构性，以及加入敏感性分析和视觉语言模型（VLM, Vision-Language Model）增强分析，以便从大规模评估中提炼更有价值的洞察。
2026-06-02 13:22:13
3775
9
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人