Deeplearning4j【基础 01】初识Java深度学习框架DL4J

2401_86950650

于 2024-09-07 05:30:12 发布

阅读量880

点赞数 11

文章标签： java 深度学习开发语言

本文链接：https://blog.csdn.net/2401_86950650/article/details/141980396

版权

跨平台（硬件：CUDA GPU，x86，ARM，PowerPC；操作系统：Windows/Mac/Linux/Android）。

小结一下：模型构建、模型训练和部署一条龙，兼容性强，多线程，跨平台（特别注意Android平台，支持端侧模型）？

3.组件

Deeplearning4j实际上是一堆项目，旨在支持基于 JVM 的深度学习应用程序的所有需求。除了 Deeplearning4j 本身（高级 API），它还包括：

Deeplearning4j/ScalNet：JVM和Spark上运行神经网络构建、训练和部署的基础框架库；
ND4J/libND4J：支持CPU/GPU加速的高性能数值计算库，可以说是JVM上的Numpy；
SameDiff：用于符合微分和计算图库；
DataVec：数据处理库，提供采样、过滤、变换等操作；
Arbiter：神经网络超参数搜索和优化库；
RL4J：JVM上的强化学习库；
Model Import：模型导入库，可以导入ONNX，TensorFlow，Keras(Caffe)模型；
Jumpy：ND4J对应Python语言API；
Python4j：可以在JVM里运行Python脚本语言。

3.1 Deeplearning4j/ScalNet

前向神经网络（Feedforward Neural Networks, FNN）
自动编码器（AutoEncoders）
卷积神经网络（Convolutional Neural Networks, CNN）
循环神经网络（Recurrent Neural Networks ,RNN)
生成对抗网络（Generative Adversarial Networks）
递归神经网络（Recursive Neural Network ）
深度信念网络（Deep Belief Networks）和受限制玻尔兹曼机（Restricted Boltzmann Machines）
图神经网络（Graph Neural Networks）

3.1.1 Deeplearning4jf（Java）

神经网络高层API库，用于构建具有各种层的多层神经网络（MultiLayerNetworks）和计算图（ComputationGraphs），支持从其他框架导入模型和在Apache Spark上进行分布式训练

3.1.2 ScalNet（Scala）

ScalNet是受Keras启发而为Deeplearning4j开发的Scala语言包装。它通过Spark在多个GPU上运行。功能相当于Keras。
Keras是一个由Python编写的开源人工神经网络库，可以作为Tensorflow、Microsoft-CNTK和Theano的高阶应用程序接口，进行深度学习模型的设计、调试、评估、应用和可视化。

3.2 ND4J/LibND4J

ND4J是Deeplearning4j的数值处理库和张量库，在JVM中实现Numpy的功能：

Java科学运算引擎，用来驱动矩阵操作；
JavaCPP功能: Java 到 Objective-C 的桥，可像其他 Java 对象一样来使用 Objective-C 对象；
CPU 后瑞：OpenMP、OpenBlas 或 MKL、与SIMD的扩展；
GPU 后瑞：最新CUDA 及 CuDNN。

包含500多种数学、线性代数和神经网络操作。

3.3 SameDiff

SameDiff是具有自动微分功能的张量计算库，其自动微分方法是基于静态图的方法，提供神经网络运算中更为底层的接口，主要用于自定义神经网络拓扑结构。
另外，SameDiff支持导入Tensorflow冻结模型格式的.pd（protobuf）模型。对ONNX、TensorFlow SaveModel和Keras模型的导入正在完善中。可以简单的认为SameDiff和DL4J的关系类似于Tensorflow和Keras。
符合微分和计算图库是深度学习中的两个关键概念：

符合微分（Automatic Differentiation，简称AD）

符合微分是一种计算梯度的技术，用于优化神经网络中的参数。
在神经网络训练过程中，我们需要计算损失函数对模型参数的梯度，以便使用梯度下降等优化算法来更新参数。
符合微分通过构建计算图并自动计算每个节点的梯度，使得梯度计算变得高效且不容易出错。
常见的深度学习框架（如TensorFlow、PyTorch和Deeplearning4j）都使用符合微分来实现反向传播算法。

计算图库

计算图是一种表示复杂计算过程的图结构，其中节点表示操作（例如加法、乘法、激活函数等），边表示数据流。
计算图库用于构建、管理和执行计算图。
在深度学习中，计算图用于描述神经网络的前向传播和反向传播过程。

3.4 DataVec

神经网络专门处理多维数组形式的数值数据。DataVec可以将来自一个CSV文件或一批图像的数据序列化，转换为数值数组。数据的摄取、清理、联接、缩放、标准化和转换是开展任何类型的数据分析时都必须完成的工作。是深度学习的先决条件。DataVec是专为这一流程设计的工具包。数据科学家和开发人员可以用其中的工具将图像、视频、声音、文本和时间序列等原始数据转变为特征向量，输入神经网络。