如何使用 pytorch 向神经网络添加偏差？

Question

如果我有这个神经网络（NN）：

 class NeuralNet(nn.Module):
    def __init__(self, input_size, hidden_size, num_classes, p=dropout):
        super(NeuralNet, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.fc2 = nn.Linear(hidden_size, hidden_size)
        self.fc3 = nn.Linear(hidden_size, num_classes)
        self.dropout = nn.Dropout(p=p)

    def forward(self, x):
        out = F.relu(self.fc1(x))
        out = F.relu(  self.dropout(self.fc2(out)))
        out = self.fc3(out)
        return out

你如何给它添加偏见？ 例如，在隐藏层上。 我在网上找不到任何东西。

Answer 1

这取决于您使用的图层。 有些人没有这个选项。 例如，在线性中，您可以使用：

self.fc1 = nn.Linear(input_size, hidden_size, bias =False) # Either true or false, the default is true.

在文档中，您可以看到其他类型的图层是否有偏差选项。