内存墙问题

参考推文

大算力场景，“内存墙”、“功耗墙”等问题及解决途径

https://mp.weixin.qq.com/s/Ti2UmJaZNlRym58Hokqs2A

《》

一、什么是内存墙？

        内存墙，指的是内存性能严重限制CPU性能发挥的现象。内存的性能指标主要有“带宽”(Bandwidth)和“等待时间”(Latency)。

二、如何打破内存墙

1）采用“存算一体”的结构模式来规避内存墙对运算性能的限制。将部分或全部的计算移到存储中，计算单元和存储单元集成在同一个芯片，在存储单元内完成运算，让存储单元具有计算能力。

2）提升传输速度需要在总线技术上发力，光互联技术采用波导方式传输数据，相比硅晶内部的载流子传输，具有损耗低、速度快、延时小的优点，可实现数据的高速传输，减少功耗。不过，面对内存墙无论是绕开还是撞穿，终归还是要降低内存处理的延时，提升整体计算速度，因此降低内存本身延时也很关键。

3）算法层面的优化，降低对资源的占用