SK Hynix 正致力于为人工智能领域开发基于 DDR5 的 CXL 2.0 内存解决方案,尤其是针对"内存饥渴型"LLM。CXL 指的是 Compute Express Link,这是一种互联技术,可以在 CPU 和 GPU 之间实现更快的数据传输,但在人工智能领域,它实际上是 CPU 和加速器之间的数据传输。
与传统的 PCIe 接口相比,CXL 的优势在于它能让 GPU 直接访问系统内存,从而显著提升性能。鉴于现代内存技术无法满足大规模人工智能模型所需的功率,CXL 协议最近受到了市场的广泛关注。为了解决这一问题,SK Hynix 和其他公司正在努力采用基于 CXL 的内存解决方案。
SK Hynix 系统架构副总裁在韩国的一次活动上讨论时提到图形处理器目前总是出现"内存饥渴"的情况,开发 CXL 内存模块的可能性很有必要,他还解释了公司在这一特定领域的发展方向。
据透露,SK Hynix 目前正在开发基于 DDR5 的 96GB 和 128GB CXL 2.0 内存产品,并将于 2025 年下半年投放市场。CXL 互连技术允许内存直接访问板载的其他组件,并为板载更大容量的内存提供了空间。
最近,韩国初创公司 Panmnesia展示了一种尖端的 CXL IP,允许 GPU 利用 DRAM 甚至 SSD 的内存,扩展内置的 HBM,因此这是该技术的另一种发展方向。
遗憾的是,SK Hynix 还没有展示 CXL 2.0 内存解决方案,因此我们现在还无法评论其在人工智能应用中的有效性。不过,据说三星有望在今年推出自己的 256 GB CXL 2.0 内存模块,这或许能让我们对这项技术的未来发展有一个更清晰的认识。
感谢大家花时间阅读我的文章,你们的支持是我不断前进的动力。期望未来能为大家带来更多有价值的内容,请多多关注我的动态!