如何替換神經網絡權重中的 NaN 值？

Question

我試圖用一些常數替換權重中的 NaN 值。 但是，我不知道如何做到這一點。

我知道要訪問權重，我必須寫。

for i in model.params:
    arr = i.clone()
    arr[torch.isnan(arr)] = 0
    param_list.append(nn.Parameter(arr))
    
model.params= param_list

但這打破了計算圖，你可以建議我有什么更好的方法嗎？

Answer 1

怎么樣

with torch.no_grad():
  for p in model.parameters():
    p.data[torch.isnan(p.data)] = 0