ChatGLM在阿里云服务器部署常见问题

        ChatGLM-6B是清华在2023年3月发布的开源大模型，因其硬件要求低的特性，仍可以作为初学者部署使用的选择之一。

        博主在部署的过程中出现了一些问题，在这里记录一下。

        1.模型文件无法下载

        hugging face网站国内网络连接不稳定，在阿里云服务器上git clone无响应。采取的解决方法是先下载到本地，然后将模型文件逐一上传至服务器。

        2.依赖环境问题

        模型上传完毕后，在运行web_demo.py时出现若干问题。

        （1）NotImplementedError: Loading a dataset cached in a LocalFileSystem is not supported.

        更新datasets版本即可解决。

        参考：NotImplementedError: Loading a dataset cached in a LocalFileSystem is not supported-CSDN博客https://blog.csdn.net/u013250861/article/details/134300884

        （2）AttributeError: ‘Textbox‘ object has no attribute ‘style‘

        gradio版本问题，降低版本可解决。参考：conda环境下‘Textbox‘ object has no attribute ‘style‘问题解决_attributeerror: 'textbox' object has no attribute -CSDN博客https://blog.csdn.net/lsb2002/article/details/135363115

        （3）无法生成可访问外链Could not create share link. Please check your internet connection or our status page.

        缺少必要文件。按照提示操作解决即可，可以先把文件下到本地，再上传至服务器，最后不要忘了增加权限sudo chmod +x。参考：如何解决linux上报错：Could not create share link. Please check your internet connection or our status page-CSDN博客https://blog.csdn.net/weixin_45277161/article/details/138233728

        3.ptuning相关问题。

        context_length = input_ids.index(tokenizer.bos_token_id)
        ValueError: None is not in list

        修改代码为context_length = len(a_ids)

        大致有这一些问题，最后确认下博主成功运行后上面提到的几个包的版本：

        gradio                         3.40.0

        gradio_client                  1.3.0

        datasets                       2.14.6