Jupyter算法开发场景GPU虚拟化的最佳实践

virtaitech

于 2021-07-27 15:43:00 发布

阅读量509

点赞数

文章标签： gpu ai 人工智能云服务器

本文链接：https://blog.csdn.net/m0_49711991/article/details/119145255

版权

本文介绍了Jupyter在算法开发中的使用，特别是GPU资源的传统分配问题和OrionX vGPU创新解决方案。通过OrionX vGPU，实现了GPU资源的弹性分配和池化，提高资源利用率，降低GPU使用过程中的浪费，提升AI开发效率。

摘要由CSDN通过智能技术生成

Jupyter介绍

Jupyter开发中GPU资源传统使用模式

Jupyter开发中OrionX vGPU资源创新使用

趋动科技OrionX猎户座AI加速器资源池化解决方案

Jupyter介绍

Jupyter是当前在算法开发中非常受欢迎的交互式分析软件，它提供了一个环境，用户可以在其中记录代码、运行代码、可视化查看输出结果。这些特性使其成为一款执行端到端工作流程的便捷工具，可以用于数据清理、统计建模、构建和训练机器学习模型、可视化数据以及许多其他用途。已经成为数据科学和机器学习最知名也是使用最广泛的开源方案。

Jupyter的前身是IPython，在IPython4.0之前，IPython项目本身就包含notebook功能，所以使用Ipython Notebook就能使用notebook功能。在IPython4.0之后，IPython项目中的Notebook等被转移到Jupyter项目中，IPython项目专注于交互式Python开发和为Jupyter提供Python Kernel，所以现在使用Jupyter Notebook执行Notebook程序，并采用Ipython kernel执行Python代码。

Jupyter Notebook存储代码、结果、markdown作为一个可编辑的文档，当用户保存的时候，Notebook会从浏览器发送到Notebook server，Notebook server负责以.ipynb拓展名存储JSON文件到磁盘上。Kernel只在用户要执行程序的时候去获取cells of code执行。