[项目实训]Chatglm部署(二)——安装CUDA和torch

        CUDA（Compute Unified Device Architecture）是由NVIDIA开发的一种并行计算平台和编程模型。它允许开发者利用NVIDIA的GPU（图形处理单元）进行通用计算——也就是说，除了传统的图形渲染任务外，还可以执行复杂的计算任务。CUDA为开发者提供了使用C、C++以及其他语言直接编写GPU加速应用的能力。

安装CUDA

官网：CUDA Toolkit 12.3 Update 1 Downloads | NVIDIA Developer

点击下载

完成安装

再安装torch

PyTorch是一个开源的机器学习库，用于计算机视觉和自然语言处理等应用，主要被学术界和工业界用于深度学习研究和开发。它最初由Facebook的人工智能研究团队开发，并于2016年被公开发布。

PyTorch的主要特点包括：

1. 易于使用的API：PyTorch提供了直观的API，使得构建和训练深度学习模型变得更加容易。它的设计哲学是尽可能简单和直观，这让初学者和研究人员都能快速上手。

2. 动态计算图：与其他深度学习框架相比，PyTorch使用动态计算图（也称为自动微分系统）。这意味着图是按照运行时操作的顺序动态构建的，这样可以使得模型更加灵活，也便于调试和优化。

3. 广泛的库支持：PyTorch社区非常活跃，为PyTorch提供了大量的库和工具，包括用于计算机视觉的TorchVision、用于自然语言处理的TorchText、用于图形处理的TorchGeo等。

4. GPU加速：PyTorch支持CUDA，这意味着它可以利用NVIDIA GPU来加速计算，大幅提升训练和推理的速度。

5. 易于迁移学习和研究：PyTorch提供了预训练模型和模型组件，这使得研究人员和开发人员可以轻松进行迁移学习和快速实验新的研究想法。

6. 与其他语言和库的良好兼容性：PyTorch提供了与Python科学计算生态系统的良好兼容性，包括NumPy、SciPy等库，以及对C++的支持，这对于在生产环境中部署模型特别有用。

使用pip工具进行安装pip install pytorch

安装完成后在pycharm中输入

1. import torch
2. print(torch.cuda.is_available()

输出为true，则安装成功。