在 torch.load 之后，性能急剧下降，在评估后它增加了

Question

我有一个奇怪的错误。 这是我的 model。

class MyModel(nn.Module):
    def __init__(self, feat_dim, num_classes):
        super(MyModel, self).__init__()
        self.model_resnet = models.resnet50(pretrained=False)
        num_ftrs = self.model_resnet.fc.in_features
        self.model_resnet.fc = nn.Identity()
        
        self.head1 = nn.Sequential(
                nn.Linear(num_ftrs, num_ftrs),
                nn.ReLU(inplace=True),
                nn.Linear(num_ftrs, feat_dim)
            )
        
        self.head2 = nn.Linear(num_ftrs, num_classes)
        
    def forward(self, x):
        self.eps=self.eps+1
        x = self.model_resnet(x)
        feat = F.normalize(self.head1(x), dim=1)
        classes = self.head2(x)
        
        return feat,classes
        

以下代码用于保存和加载

torch.save(model.state_dict(),"./test.pth")
model.load_state_dict(torch.load("test.pth"))

然后我对其进行了训练并保存了权重，测试精度为 0.95。 下次我加载它并测试一些东西。 这就像随机猜测，准确度接近于 0。

在我用整个测试集评估它之后。 测试精度恢复到 0.8，但仍然失去性能。

我检查了 model.state_dict() 在评估整个测试集之前和之后的权重是相同的。

有人有什么想法吗？

Answer 1

经过一整天的调试，终于找到了原因。 在我重新加载 model 后，我没有设置 model.eval() 并进行了一些计算。