Google Workloads for Consumer Devices Mitigating Data Movement Bottlenecks

Google Workloads for Consumer Devices: Mitigating Data Movement Bottlenecks（2018）

1. 摘要：

• 目前正处于消费类设备数量爆炸增长的时代，包括智能手机，基于网络的计算机和可穿戴设备等。这些设备由于电池和热功耗的限制，能效是首要问题
• 数据移动是消费设备中总系统能耗和执行时间的主要贡献者。在存储系统和计算单元之间的数据移动所产生的能耗和性能开销明显高于计算成本
• 论文工作：
  • 全面分析了数据移动对几种广泛应用的谷歌客户(consumer)工作负载的能耗和性能影响：Ghrome网页浏览器, TensorFlow Mobile(客户端的tensorflow), Google的机器学习框架, 视频播放, 视频捕捉(capture)。（每个月都有超过十亿的活跃用户）
  • 论文通过将部分的计算在靠近内存的地方进行，即PIM(processing-in-memory)能够显著的减少这些工作负载中的数据移动
  • 四种工作负载中都包含了简单的原语和函数，对整体的数据移动产生了巨大的影响。对于这些原语和函数，论文采用PIM来实现它们
  • 论文分析表明，将这些原语和函数在由简单核心或者专用加速器组成的PIM逻辑中，可以消除大量的数据移动，并显著减少系统总能量(avg. 55.4%)和执行时间（avg. 54.2%）

2. 介绍：

• 能耗是消费类设备的首要问题，但是这些设备的性能需求也在每年急剧增长，以支持新兴应用，例如4K视频流和录制，虚拟现实和增强显示等。
• 消费类设备集成了许多耗电组件，例如CPU，GPU，专用加速器，传感器和高分辨率屏幕。
• 限制消费类设备性能增长的两个趋势：
  • 锂电池在过去的20年中仅增加了一倍
  • 热功耗已成为严重的性能约束
• 论文基于全面的工作负载分析发现：在消费类设备的多种能源消耗中（例如，CPU，GPU，专用加速器，内存），主内存系统与计算单元（例如，CPU，GPU，专用加速器）之间的数据移动是系统总能量的主要贡献者
  • 当用户滚动浏览Google Docs网页时，在内存和计算单元之间移动数据会导致系统总能耗的77％
  <