谷歌在MLIR中支持稀疏张量积算(1)

本文介绍了谷歌在MLIR中支持稀疏张量的实现,包括基础概念如sparse tensors,稀疏计算和系数类型,以及稀疏性在编译器中带来的问题和解决方案。MLIR使用方言(dialect)统一不同IR层,而稀疏编译器则旨在处理稀疏性的存储和计算效率,将稀疏性视为张量的属性。
摘要由CSDN通过智能技术生成

MLIR(multi-level IR)

首先,在现在的编译器里面是存在IR(Intermediate presentation)的概念的。这个IR的概念是为了在编译器的不同阶段来代表本层的语言的。例如说对于一些编译器的前端,是使用计算图来表示;对于一些后端,可能会使用一些DSL的表示形式。那么这些层之间来回转换这种中间表示就会存在复用性,开销,人力等问题。所以google就想用MLIR来统一所有的IR的表示。我的理解(如果有不对的地方,欢迎大家一起讨论),MLIR使用一种叫做方言(dialect)的形式来实现不同层之间的翻译的工作。

Dialect

方言有点像对于一个基类派生出的对象的感觉。不同IR层是由共性的:数据形状,数据类型,计算规则。那么MLIR就提取共性的抽象表达,然后针对lowering过程中每一层,针对该层需要补充的东西,在原有的像基类一样的基础上实例化不同层。这样就可以尽可能少改变每一层IR的表达代价。同时复用IR。

MLIR中支持稀疏的表达

基础概念

sparse tensors

  • A vector with many zero elements is called a sparse vector
  • A matrix with many zero elements is called a sparse matrix
  • A tensor with many zero elements is called a sparse tensor
  • <
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值