一文读懂全新深度学习库Rust Burn

最新推荐文章于 2024-05-15 09:54:01 发布

Python学研大本营

最新推荐文章于 2024-05-15 09:54:01 发布

阅读量1.1k

点赞数 25

文章标签：深度学习 rust 人工智能

本文链接：https://blog.csdn.net/weixin_39915649/article/details/135123314

版权

Rust Burn是一个全新的完全使用Rust编写的深度学习框架，具有灵活性、高性能和易用性的特点。

微信搜索关注《Python学研大本营》，加入读者群，分享更多精彩

一、什么是Rust Burn？

Rust Burn是一个全新的深度学习框架，完全使用Rust编程语言编写。创建这个新框架而不是使用现有框架（如PyTorch或TensorFlow）的动机是为了构建一个适应多种用户需求的通用框架，包括研究人员、机器学习工程师和底层软件工程师。

Rust Burn的关键设计原则包括灵活性、高性能和易用性。

灵活性：能够快速实现前沿研究想法，并进行实验。

高性能：通过优化措施，例如利用特定硬件功能，如Nvidia GPU上的张量内核（Tensor Cores）。

易用性：简化训练、部署和运行模型的工作流程。

Rust Burn的主要特点：

灵活而动态的计算图。
线程安全的数据结构。
直观的抽象，简化开发过程。
在训练和推理过程中实现极快的性能。
支持CPU和GPU的多种后端实现。
完全支持训练过程中的日志记录、度量和检查点功能。
小型但活跃的开发者社区。

二、快速入门

2.1、安装Rust

Burn是基于Rust编程语言的、强大的深度学习框架，需要对Rust有基本的了解，但一旦掌握了这些知识，用户将能够充分利用Burn提供的所有功能。

按照官方指南进行安装。也可以查看GeeksforGeeks在Windows和Linux上安装Rust的指南和截图。

【官方指南】：https://www.rust-lang.org/tools/install

图片来自Install Rust

【安装指南和截图】：https://www.geeksforgeeks.org/how-to-install-rust-on-windows-and-linux-operating-system/

2.2、安装Burn

要使用Rust Burn，首先需要在系统上安装Rust。一旦正确设置了Rust，就可以使用cargo（Rust的软件包管理器）创建新的Rust应用程序。

在当前目录中运行以下命令：

cargo new new_burn_app

导航到这个新目录：

cd new_burn_app

接下来，添加Burn作为依赖项，并添加启用GPU操作的WGPU后端功能：

cargo add burn --features wgpu

最后，编译项目以安装Burn：

cargo build

这将安装Burn框架以及WGPU后端。WGPU允许Burn执行底层的GPU操作。

三、代码示例

3.1、逐元素相加

要运行以下代码，用户需要打开并替换src/main.rs中的内容：

use burn::tensor::Tensor;
use burn::backend::WgpuBackend;

// Type alias for the backend to use.
type Backend = WgpuBackend;

fn main() {
    // Creation of two tensors, the first with explicit values and the second one with ones, with the same shape as the first
    let tensor_1 = Tensor::::from_data([[2., 3.], [4., 5.]]);
    let tensor_2 = Tensor::::ones_like(&tensor_1);

    // Print the element-wise addition (done with the WGPU backend) of the two tensors.
    println!("{}", tensor_1 + tensor_2);
}

main函数使用WGPU后端创建了两个张量，并进行了相加运算。

在终端中运行cargo run，执行该代码。

输出：

查看相加的结果：

Tensor {
  data: [[3.0, 4.0], [5.0, 6.0]],
  shape:  [2, 2],
  device:  BestAvailable,
  backend:  "wgpu",
  kind:  "Float",
  dtype:  "f32",
}

3.2、位置智能前馈模块

以下是使用Burn框架的一个简单示例。示例创建了一个前馈模块，并使用以下代码片段定义了它的前向传播。

use burn::nn;
use burn::module::Module;
use burn::tensor::backend::Backend;

#[derive(Module, Debug)]
pub struct PositionWiseFeedForward<B: Backend> {
    linear_inner: Linear<B>,
    linear_outer: Linear<B>,
    dropout: Dropout,
    gelu: GELU,
}

impl PositionWiseFeedForward<B> {
    pub fn forward(&self, input: Tensor<B, D>) -> Tensor<B, D> {
        let x = self.linear_inner.forward(input);
        let x = self.gelu.forward(x);
        let x = self.dropout.forward(x);

        self.linear_outer.forward(x)
    }
}