megatron LM报错:
File "/xx/xx_megatron_patch/megatron/data/blendable_dataset.py", line 25, in __init__
assert num_datasets == len(weights)
AssertionError
解决:
是哪个数据集没有正确读进来。需要重新tokenize。
megatron LM报错:
File "/xx/xx_megatron_patch/megatron/data/blendable_dataset.py", line 25, in __init__
assert num_datasets == len(weights)
AssertionError
解决:
是哪个数据集没有正确读进来。需要重新tokenize。