存算一体与存内计算计算杂谈

存算一体与存内计算计算杂谈
参考文献链接
https://mp.weixin.qq.com/s/PkJDADkQjUhCDrNOyUc8bg
https://mp.weixin.qq.com/s/Uhq4zTrNyavscxlZvbNYgA
https://mp.weixin.qq.com/s/7DBRyslROM3KEOT-KNTUkA
https://mp.weixin.qq.com/s/N6_09MhCho-UHJV6kSRnNw
存内计算爆发
存算一体的基本概念最早可以追溯到上个世纪七十年代，但是受限于芯片设计复杂度与制造成本问题，以及缺少杀手级大数据应用进行驱动，存算一体一直不温不火，但最近几年，存算一体似乎已经进入爆发前夕。
尤其是国内一大批存算一体技术公司伴随着融资信息浮出水面，如知存科技、苹芯科技、九天睿芯、后摩智能、合肥恒烁、闪忆科技、新忆科技、杭州智芯科等，动辄亿元起的融资金额也充分证明了资本对存算一体这个赛道的青睐。国外的三星和Myhtic也是该领域的潜心研究者，近来也动作频频，在最近的hotchips上，三星就披露了HBM-PIM方案，Myhtic的存算一体模拟AI芯片也有了新进展。一个新的存储计算时代似乎将要来临。
存内计算市场为何被看好？
今年5月Myhtic C轮融资了7000万美元，迄今为止已共计筹集了1.65亿美元；6月10日，知存科技宣布完成亿元A3轮融资，产品线扩充及新的产品量产，加上此前的两轮融资，截至目前，知存科技已完成累计近3亿元的A轮系列融资；6月25日九天睿芯获亿元级A轮融资，用于新产品研发和人员扩充的工作；7月2日，杭州智芯科完成近亿元的天使轮融资，用于继续搭建团队，启动ACIM下一阶段技术研发与市场拓展；8月24日，后摩智能宣布完成3亿元人民币Pre-A轮融资，将用于加速芯片产品技术研发、团队拓展，早期市场布局及商业落地；8月24日，苹芯科技完成近千万美元Pre-A轮融资，据悉，本轮融资将主要用于芯片研发相关工作。
从融资金额的用途也可以窥见，这些存算一体芯片公司有的处于团队搭建阶段，有的是正在芯片研发阶段，还有的已经到了产品线扩充和量产阶段。前几年（2019年左右）这个市场国内也就仅有3-4家崭露头角的企业，但现在存算一体这个赛道显然已经开始变得热闹起来了。
动辄亿元的资本涌入，前仆后继的玩家踊跃跳入。为何存算一体芯片市场会如此被看好？
存算一体技术（PIM ：Processing in-memory）被视为人工智能创新的核心。将存储和计算有机结合，直接利用存储单元进行计算，极大地消除了数据搬移带来的开销，解决了传统芯片在运行人工智能算法上的“存储墙”与“功耗墙”问题，可以数十倍甚至百倍地提高人工智能运算效率，降低成本。
在知存科技CEO王绍迪的眼中，一直看好存算一体技术的原因有三：一是算力和运算数据量每年都在指数级增加，然而摩尔定律已经接近于到极限，每代芯片只有10-20%的性能提升。二是冯诺依曼架构的算力已经被内存墙所限制，只有解决内存墙问题才能进一步提高算力。在各种解决方案中，存内计算是最直接也是最高效的。
苹芯科技CEO杨越则认为，万物互联+的人工智能的时代已经到来。智能产品覆盖面积越来越大，产品形态的多样性将迎来爆发式的增长。可以预见，由于传输延迟或数据安全考虑，很多数据处理及推理运算将在端侧发生。通用性计算芯片在服务特定AI算法方面并不具备性价比优势，为AI定制的芯片将成为人工智能产业链条上的底层核心技术。存内计算作为创新性极强的芯片架构形式，由于突破了困扰业界多年的存储墙问题，且与深度学习网络运算模型中的基本算子高度契合，使得基于存内计算架构的芯片相比于市场已有的AI加速芯片，在计算效率(TOPS/Watt)方面有数量级上的提升。在智能时代里，从可穿戴到自动驾驶，功耗约束下场景里的计算效率都是永恒的主题，存内计算是解放算力、提升能效比最强有力的武器之一。
而且与其他低功耗计算，如低电压亚阈值数字逻辑ASIC、神经模态（Neuromorphics）计算和模拟计算比较，存内计算的优势也尽显。
王绍迪表示，低功耗亚阈值计算是对现有逻辑计算的功耗优化，一般能效可以提升2-4倍，但是算力相应降低，只能进行针对性的优化。而存内计算是新型的运算架构，做的是二维和三维矩阵运算，能效和算力可以提高100-1000倍。神经模态运算是为类脑算法而设计的芯片，有不同的实现方式，如模拟计算、数字计算、无时钟计算、或者存算一体的实现方式。其实上述三种技术解决的问题是不一样的。后摩尔时代下，无法通过工艺的提升来优化整体算力，异构计算和新架构变得更为重要。
在杨越看来，与亚阈值数字逻辑相比，存内计算仍工作在正常供电范围，可具有实现高算力的可能性。存内计算的原理就是模拟计算。存内计算与神经形态计算有交集，就是用存内计算的原理去实现synaptic connection，可提供高平行度、高能效地synaptic weighting的计算。
存内计算的三条主流技术路径
在认准了赛道之后，就是选择存内计算的技术路径。对于存算一体技术来说，处于多种存储介质百花齐放的格局，如SRAM，DRAM，Flash等。目前选择SRAM介质阵营的主要有苹芯科技、后摩智能、九天睿芯。Flash阵营的代表玩家有知存科技、合肥恒烁、美国的Mythic。DRAM阵营的还相对偏少。
那么该如何选择合适的技术路径，这些技术路径又有何特点、壁垒和优势呢？苹芯CEO杨越认为，技术路线选择的出发点有多个，包括工艺成熟度、加入计算功能的复杂度及结果精度、向上对神经网络算法要求的支持程度、以及落地成本等方面的考虑。<