我可以在 `nn.Sequential` 中解压 `nn.ModuleList` 吗？

Question

我正在使用nn.ModuleList对简单 ANN 的隐藏层数进行参数化。 我想知道如下将此列表传递到nn.Sequential模块是否会对执行图产生任何不利影响。

nn.Sequential不是必需的，但是在构造函数中明确整个架构对我来说似乎更清晰。

class ANN(nn.Module):

    def __init__(
        self,
        in_feats=3,
        in_hidden=5,
        n_hidden_layers=3,

    ):
        super(ANN, self).__init__()

        # ====== dynamically register hidden layers ======
        self.hidden_linears = nn.ModuleList()
        for i in range(n_hidden_layers):
            self.hidden_linears.append(nn.Linear(in_hidden, in_hidden))
            self.hidden_linears.append(nn.ReLU())
        
        # ====== sequence of layers ======
        self.layers = nn.Sequential(
            nn.Linear(in_feats, in_hidden),
            nn.ReLU(),
            *self.hidden_linears,
            nn.Linear(in_hidden, 1),
            nn.Sigmoid(),
        )

    def forward(self, X):
        return self.layers(X)

也愿意接受更简洁的方法将它们组合在一起的建议。

Answer 1

您可以使用nn.Sequential.modules()获取 Sequential 的每个部分，然后将它们打包到一个列表中。