TVM将深度学习模型编译为WebGL

TVM将深度学习模型编译为WebGL
TVM带有全新的OpenGL / WebGL后端！
OpenGL / WebGL后端
TVM已经瞄准了涵盖各种平台的大量后端：CPU，GPU，移动设备等。这次，添加了另一个后端：OpenGL / WebGL。
OpenGL / WebGL使能够在未安装CUDA的环境中利用GPU。在浏览器中使用GPU的方法。
后端允许以3种不同的方式使用OpenGL / WebGL：
• 本地OpenGL：可以将深度学习模型编译为OpenGL，完全使用Python在本地计算机上直接运行。
• 带有RPC的WebGL：可以将深度学习模型编译到WebGL中，通过Emscripten（带有JavaScript主机代码和WebGL设备代码）将其导出为共享库。通过RPC将该库部署到在浏览器中运行的TVM JavaScript运行时系统上。
• 带有静态库的WebGL：可以将深度学习模型编译到WebGL中，将其与TVM JavaScript运行时系统链接，然后导出整个程序包。在浏览器上的网页中运行该模型，而无需依赖。详细流程如图1所示。
依靠Emscripten及其fastcomp LLVM后端来生成javascript后端。

图1
与X有何不同？
在浏览器上运行神经网络并不是一件新鲜