zongmuyang的博客

在深度学习中，当你看到“NaN or Inf found in input tensor”这样的错误时，它意味着你的输入张量（tensor）中包含了非数字（NaN）或无穷大（Inf）的值。这些值通常是由于数值计算错误或不稳定导致的，并且它们会破坏模型的训练过程，导致预测精度不稳定或者模型完全无法学习。

保存整个模型状态仅仅是将模型在某一时刻的参数和结构保存下来，它并不改变模型的复杂度、训练数据的数量或质量。需要注意的是，保存整个模型的方式虽然方便，但序列化后的数据是属于特定的类和指定的字典结构，当在其他项目或进行代码重构后可能会出现错误。然后根据需要手动构建模型的结构。理想的情况是找到一个平衡点，使得模型既不过于简单而欠拟合，也不过于复杂而过拟合，从而能够在训练数据和未见过的数据上都表现出良好的性能。：除了参数之外，整个模型的状态还会保存模型的结构信息，即模型的层、激活函数、损失函数等组件的定义和配置。