null的博客

原创 本地部署jittorLLMs实现chatglm-6b模型处理

如运行项目时提示找不到某文件，项目无法执行：1.先尝试更新该文件 2.卸载该文件后重新安装 3.重启电脑 4.找到该文件所在文件夹，如该文件存在，将该文件备份后删除（这个情况可能是因为”cuda、cudn“安装后文件存于”源python文件夹内，当项目运行时，“源python”会将项目所需的所有相关文件复制到项目内的“镜像python”目录中，这个复制过程中因为某些原因导致出现了错误）例如，如果将Top P参数设置为0.7，那么模型会选择可能性排名超过70%的词进行采样。