何老师写了一篇有关环境配置的文章,很不错,2024 NVIDIA开发者社区夏令营环境配置指南(Win & Mac)-CSDN博客
我在实测的时候发现遇到一些问题,这里写这个补充说明方便大家对症找问题,抛砖引玉。
1 创建Python环境
首先需要安装Miniconda:
#这里如果你原来装过anaconda就不用再装Miniconda了。
在打开的终端中按照下面的步骤执行,配置环境:
创建python 3.8虚拟环境
conda create --name ai_endpoint python=3.8
#这里是3.8及以上版本就行
进入虚拟环境
conda activate ai_endpoint
安装nvidia_ai_endpoint工具
#这是langchai和NIM结合的工具库
pip install langchain-nvidia-ai-endpoints #这步的时候遇到了报错
#这是pip本身的问题,用pip3也过不去,改用以下命令
pip install XXX -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com#这里XXX就是替换你需要安装的内容。最后那个trusted....不能省略,不然还报错。例如pip install jupyterlab -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com
#后面类似问题都这样处理
安装Jupyter Lab
pip install jupyterlab
安装langchain_core
pip install langchain_core
安装langchain
pip install langchain
安装matplotlib
#涉及数据可视化和图表绘制
pip install matplotlib
安装Numpy
pip install numpy
#安装faiss, 这里如果没有GPU可以安装CPU版本
pip install faiss-cpu==1.7.2
#这里有GPU也按照这个来安装,因为win下面比较特殊,装别的,亲测还是报错,千万不要conda和pip混用,问题很多。就老老实实pip一个一个装。
安装OPENAI库
pip install openai
#另外这里还缺两个安装包
一个是gradio一个是langchain-community。
pip install gradio -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com
pip install langchain-community -i http://mirrors.aliyun.com/pypi/simple --trusted-host mirrors.aliyun.com
2.利用Jupyter Lab打开课件执行
在上面打开的终端中, 输入以下命令:
jupyter-lab
利用Jupyter 打开课件
#因为模型还没下完,下完后要手动导入到lab中,建议将模型放到你对应的路径下,这样会自动读取,只要把lab重新打开就行
3.使用心得
3.1要申请API KEY
全新用户注册NIM获取API KEY:
一台安装好Chrome或Edge浏览器的电脑
申请NVIDIA NIM API KEY密钥,注册申请流程如下:
1进入网址Try NVIDIA NIM APIs
点击右上角login
2 填写邮箱
3 如果是全新的邮箱需要创建账户
4 进入邮箱进行验证
5 验证成功全选提交
6 创建用户名
7 第6步完成会自动跳转到主页,可以右上角查看到信息
8 任意点选模型图标,进入模型交互界面后会在右侧看到代码API,然后找到Get API KEY鼠标点击选择生成API KEY并保存好:
#一定要点开这个“open full page”不点开,有时就在这个页面反复刷。
填写你注册的邮箱,并拿到API KEY