GLM-4V-9B TypeError: ChatGLMTokenizer._pad() got an unexpected keyword argument ‘padding_side‘

本文作于2024.10.22。

问题描述

在运行官方 basic_demo 中的 trans_cli_vision_demo.py 时，报错如下：

TypeError: ChatGLMTokenizer._pad() got an unexpected keyword argument 'padding_side'

在网上看到关于更改 transformers 版本的解决方法，使用 pip install transformers==4.44.0 命令，的确能暂时解决问题，但在运行 openai_api_server.py 和 openai_api_request.py 时再次出现报错。

解决方法

在模型文件 glm-4v-9b/tokenization_chatglm.py 中，在 def _pad() 方法中增加参数如下。

padding_side: Optional[str] = None