TensorFlow vs PyTorch 卷积混淆

Question

我对如何在 PyTorch 中复制 Keras (TensorFlow) 卷积感到困惑。

在 Keras 中，我可以做这样的事情。 （输入大小为(256, 237, 1, 21) ，output 大小为(256, 237, 1, 1024) 。

import tensorflow as tf
x = tf.random.normal((256,237,1,21))
y = tf.keras.layers.Conv1D(filters=1024, kernel_size=5,padding="same")(x)
print(y.shape) 
(256, 237, 1, 1024)

然而，在 PyTorch 中，当我尝试做同样的事情时，我得到了不同的 output 大小：

import torch.nn as nn
x = torch.randn(256,237,1,21)
m = nn.Conv1d(in_channels=237, out_channels=1024, kernel_size=(1,5))
y = m(x)
print(y.shape)
torch.Size([256, 1024, 1, 17])

我想要 PyTorch 给我 output 的尺寸，和 Keras 一样：

上一个问题似乎暗示 Keras 过滤器是 PyTorch 的out_channels但这就是我所拥有的。 我试图在padding=(0,503)的 PyTorch 中添加填充，但这给了我torch.Size([256, 1024, 1, 1023])但这仍然不正确。 这也比 keras 花费的时间长得多，所以我觉得我错误地分配了一个参数。

如何复制 Keras 在 PyTorch 中对卷积所做的操作？

Answer 1

在 TensorFlow 中， tf.keras.layers.Conv1D采用形状为(batch_shape + (steps, input_dim))的张量。 这意味着通常所说的通道出现在最后一个轴上。 例如，在 2D 卷积中，您将拥有(batch, height, width, channels) 。 这与 PyTorch 不同，其中通道维度紧跟在批次轴之后： torch.nn.Conv1d的形状为(batch, channel, length) 。 所以你需要排列两个轴。

对于torch.nn.Conv1d ：

• in_channels是输入张量中的通道数
• out_channels是过滤器的数量，即output 将拥有的通道数量
• stride卷积的步长
• padding添加到两侧的零填充

在 PyTorch 中没有padding='same'选项，您需要正确选择padding 。 这里stride=1 ，所以padding必须等于kernel_size//2 （即padding=2 ）才能保持tensor的长度。

---

在您的示例中，由于x的形状为(256, 237, 1, 21) ，因此在 TensorFlow 的术语中，它将被视为输入：

• (256, 237)的批量形状，
• steps=1 ，所以你的一维输入的长度是1 ，
• 21个输入通道。

而在 PyTorch 中， x的形状(256, 237, 1, 21)将是：

• (256, 237)的批量形状，
• 1输入通道
• 长度为21 。

---

将下面两个示例（TensorFlow与PyTorch）中的输入保持为x.shape=(256, 237, 21)假设256是批量大小， 237是输入序列的长度，21 是通道数（即输入维度，我认为是每个时间步长的维度）。

在 TensorFlow：

>>> x = tf.random.normal((256, 237, 21))
>>> m = tf.keras.layers.Conv1D(filters=1024, kernel_size=5, padding="same")
>>> y = m(x)
>>> y.shape
TensorShape([256, 237, 1024])

在 PyTorch：

>>> x = torch.randn(256, 237, 21)
>>> m = nn.Conv1d(in_channels=21, out_channels=1024, kernel_size=5, padding=2)
>>> y = m(x.permute(0, 2, 1))
>>> y.permute(0, 2, 1).shape
torch.Size([256, 237, 1024])

所以在后者中，您只需使用x = torch.randn(256, 21, 237) ...

Answer 2

PyTorch 现在已经开箱即用了相同的卷积运算你可以看看这个链接 [Same convolution][1]

class InceptionNet(nn.Module):
    def __init__(self, in_channels, in_1x1, in_3x3reduce, in_3x3, in_5x5reduce, in_5x5, in_1x1pool):
        super(InceptionNet, self).__init__()
        self.incep_1 = ConvBlock(in_channels, in_1x1, kernel_size=1, padding='same')

请注意，相同的卷积仅支持默认步幅值，即 1，其他任何值都不起作用。 [1]: https://pytorch.org/docs/stable/generated/torch.nn.Conv2d.html