- 博客(3)
- 收藏
- 关注
原创 Chat with RTX:invalid session
而是AppData\Local\NVIDIA\ChatWithRTX\RAG\trt-llm-rag-windows-main\ui\user_interface.py。搜索之后看到有人让去改share=True,虽然有如下报警:但是我发现我不是这个问题。再次运行可以正常显示网页。
2024-02-19 21:16:41
1676
原创 本地部署ChatGLM 和 colab部署
先卸载之前的,再nvidia-smi查询自己电脑GPU能安装的最大版本cuda version(右上角这个),再去官网下载对应版本,pytorch2应该是要求cuda11.7或者11.8。所以,,,之后我就搬到了云端,用了google colab,其中有免费GPU可以用,能跑起来int4。pip和conda都有可能报错,有可能网络不行,需要更换源,或者翻出去。如果修改成功,下载的时候给出的一堆英文里,是会有你自己写的这个地址的。报错的时候,缺啥下载啥,完了电脑可以的话,应该就能去web界面了。
2023-04-25 22:09:21
1213
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人