了解机器学习深度学习常用的框架、工具

2401_83817418

于 2024-04-22 09:58:57 发布

阅读量1.1k

点赞数 18

分类专栏：程序员文章标签：机器学习深度学习人工智能

本文链接：https://blog.csdn.net/2401_83817418/article/details/138063317

版权

四、Keras 3.0

Keras 3.0 官方文档：https://keras.io/keras_3/

Keras 3.0 的背景和创建者

Keras 3.0 是由 François Chollet 领导的团队开发的，他也被誉为 “Keras 之父”。经过 5 个月的公开 Beta 测试后，这个版本正式问世。Keras 3.0 是对 Keras 代码库的全新重构，可以在 JAX、TensorFlow 和 PyTorch 上运行，为大型模型的训练和部署提供了全新功能。目前，已有超过 250 万的开发者在使用 Keras 框架。

Keras 3.0 的基本信息和特性

多框架支持：Keras 3.0 支持在 JAX、TensorFlow 和 PyTorch 上运行，包括一百多个层、数十种度量标准、损失函数、优化器和回调函数。它还支持 Keras 的训练和评估循环，以及 Keras 的保存和序列化基础设施。

大规模模型训练和部署：Keras 3.0 提供了全新的大规模模型训练和部署能力。优化的算法和性能改进使现在能够处理更大规模、更复杂的深度学习模型，而无需担心性能问题。

兼容多种数据管道：Keras 3.0 的 fit()、evaluate() 和 predict() 例程兼容 tf.data.Dataset 对象、PyTorch 的 DataLoader 对象、NumPy 数组和 Pandas 数据框。这意味着，无论您使用哪个后端，都可以轻松地使用来自任何来源的数据。

Keras 3.0 的优点和不足

优点：

性能优化：Keras 3.0 能够动态选择为模型提供最佳性能的后端，无需更改代码，确保以最高效率运行。
生态系统可选性：任何 Keras 3.0 模型都可以作为 PyTorch 模块实例化，也可以作为 TensorFlow SavedModel 导出，或作为无状态 JAX 函数实例化。
易用性：Keras 提供了易用性和快速原型设计的能力，降低了编程复杂性，节省了时间成本。

不足：

运行速度：由于 Keras 是在 TensorFlow 的基础上再次封装的，因此运行速度可能没有 TensorFlow 快。

五、JAX

JAX 官方文档：https://jax.readthedocs.io/en/latest/notebooks/quickstart.html

JAX 的背景和创建者

JAX 由 Google Research 的团队开发。这个项目的背后动力是为了解决现有的数值计算库（如 NumPy）在自动微分和硬件加速（尤其是 GPUs 和 TPUs）方面的局限性。JAX 利用 Autograd 提供自动微分功能，通过 XLA 技术将计算优化并编译到多种硬件上以实现加速。这样，它既保留了类似 NumPy 的简洁接口，又引入了现代机器学习所需的高效计算和灵活性。

XLA，全称 Accelerated Linear Algebra（Acce 的发音与 X 相近），即加速线性代数，是一种深度学习编译器。长期作为 Tensorflow 框架的试验特性进行开发，至今已超过两三年。随着 Tensorflow 2.X 的发布，XLA 终于从试验特性转变为默认打开的特性。此外，Pytorch 社区也在积极推动 XLA 在 Pytorch 下的开发，并已推出 PyTorch/XLA TPU 版本，但目前仅支持谷歌平台的 TPU 使用。

JAX 的基本信息和特性

NumPy 兼容性：JAX 提供了一个与 NumPy 高度兼容的接口，称为 jax.numpy。这意味着许多已经熟悉 NumPy 的用户可以很容易地迁移到 JAX，并利用其额外的功能。
自动微分：通过 Autograd，JAX 能够自动计算函数的导数，这对于机器学习和深度学习中的梯度下降等优化技术至关重要。
硬件加速：借助 XLA 技术，JAX 可以将代码编译到不同的硬件平台上（包括 CPU、GPU 和 TPU），从而实现显著的性能提升。
函数式编程：JAX 鼓励使用纯函数式编程风格，这有助于代码的清晰性和可维护性，并使得并行化和其他高级优化变得更加容易。

JAX 的优点和不足

优点：