NIM训练营 使用NIM平台现有模型实现与机器对话

一、项目概述

        在如今的AI时代，遍地都可见到AI帮助工作的身影，本篇文章将记录一个AI小白如何实现部署一个属于自己的简易对话模型。

二、实现步骤

 1.大模型选择

        前往NVIDIA-NIM选择自己想使用的大模型 （网址：Try NVIDIA NIM APIs 请自行登录注册）

官网首页：

这里选择这个模型 点击进入

2.环境配置

        这里以Python环境为例

        可以参考这篇文章配置本地Python环境：2024 NVIDIA开发者社区夏令营环境配置指南(Win & Mac)-CSDN博客

3.项目创建

        打开pycharm创建一个新项目

注意解释器选择在环境配置时的文件位置

创建一个新的python文件，如nvt1

打开NIM网页，将代码复制到pycharm中

获取API

获取后将自己的API复制到代码中

此时这个项目就算完成了

4.使用

将自己的问题输入在此处，例如：