kris11066的博客

原创 本地调用DeepSeek-R1-Distill-Qwen-7B，出现RuntimeError: probability tensor contains either inf, nan or eleme

多次尝试无果，还以为是精度的问题。后来看一老哥说是torch版本的问题，修改之后完美解决。原来torch==2.0.2 修改为torch==2.1.2 解决。