Tensorflow 是否都需要 GPU 和 CUDNN

Question

Tensorflow 可以在沒有安裝任何GPU的CPU上工作。

在Ubuntu系統上訓練以下keras model 時，以下安裝是否improve了 Tensorflow 的性能？

1). No Nvidia GPU installed.
2). Install the Nvidia CUDNN library on Ubuntu system.
3). Intel CPU with MKLDNN enabled.

對於此keras model：

https://www.tensorflow.org/quantum/tutorials/mnist

def create_classical_model():
    # A simple model based off LeNet from https://keras.io/examples/mnist_cnn/
    model = tf.keras.Sequential()
    model.add(tf.keras.layers.Conv2D(32, [3, 3], activation='relu', input_shape=(28,28,1)))
    model.add(tf.keras.layers.Conv2D(64, [3, 3], activation='relu'))
    model.add(tf.keras.layers.MaxPooling2D(pool_size=(2, 2)))
    model.add(tf.keras.layers.Dropout(0.25))
    model.add(tf.keras.layers.Flatten())
    model.add(tf.keras.layers.Dense(128, activation='relu'))
    model.add(tf.keras.layers.Dropout(0.5))
    model.add(tf.keras.layers.Dense(1))
    return model


model = create_classical_model()
model.compile(loss=tf.keras.losses.BinaryCrossentropy(from_logits=True),
              optimizer=tf.keras.optimizers.Adam(),
              metrics=['accuracy'])

model.summary()

我剛剛在啟用了 MKLDNN 的Intel CPU的MKLDNN上安裝了CUDNN library ，這個CUDNN library是否使 Tensorflow 更適用於上述 Z20F35E630DAF44DBFA4C3F68F5399DC8

Answer 1

不，它不會有任何影響。

CUDA是 NVIDIA 的 API，它允許您調用特定函數，以便直接使用您的 NVIDIA GPU 來優化計算任務。

cuDNN （CUDA Deep Neural Network）是一個旨在加速神經網絡特定操作的庫。

在加速神經網絡操作的過程中， cuDNN 使用 CUDA 。 Thus, CUDA being dependent on an NVIDIA GPU and cuDNN relying on CUDA, we can conclude that cuDNN cannot apply its optimizations without an NVIDIA GPU.