在/Pai-Megatron-Patch/Megatron-LM-240612/megatron/core/optimizer/clip_grads.py里面if clip_coeff < 1.0: TypeError: '<' not supported between instances of 'complex' and 'float'
我在训练Qwen2-72B时遇到的问题,属于偶发现象,重启即可。
在/Pai-Megatron-Patch/Megatron-LM-240612/megatron/core/optimizer/clip_grads.py里面if clip_coeff < 1.0: TypeError: '<' not supported between instances of 'complex' and 'float'
我在训练Qwen2-72B时遇到的问题,属于偶发现象,重启即可。