在訓練卷積神經網絡（DenseNet）時，是否有任何選項或參數可以改變以減少訓練時間？

Question

我使用以下python代碼'ImageAI'來使用DenseNet進行我的研究。

ImageAI github： https ： //github.com/OlafenwaMoses/ImageAI

ImageAI示例： https ：//towardsdatascience.com/train-image-recognition-ai-with-5-lines-of-code-8ed0bdd8d9ba

我目前正在使用CNN方法（DenseNet）進行與符號識別（2D建築繪圖符號）相關的研究。 VAV盒符號的一個例子是： https ： //ibb.co/cyhwRvf

我正在嘗試對39個類別（在這種情況下是符號數量的對象數量）進行分類，並且每個類別的2,000個圖像用於訓練數據（2,000 x 39 = 78,000）。 我有1000張圖像用於測試數據（1,000 x 39 = 39,000）。 數據集的總大小是1.82 GB（我認為這是一個相對較小的大小，但如果我錯了請糾正我）。

但問題是訓練時間花了很多時間。

我嘗試過使用GPU（Nvidia Geforce RTX 2080 Ti），當我將紀元（實驗數量）設置為200時，需要3天才能進行訓練。

我想知道是否有辦法減少培訓時間。 我可以更改任何參數或任何其他選項嗎？

或者考慮到我使用的數據集和GPU的大小，這被視為正常消耗時間？

五行培訓代碼如下：

from imageai.Prediction.Custom import ModelTraining

model_trainer = ModelTraining()

model_trainer.setModelTypeAsDenseNet()

model_trainer.setDataDirectory("mechsymbol")
model_trainer.trainModel(num_objects=39, num_experiments=200, enhance_data=True, batch_size=32, show_network_summary=True)

Answer 1

我是ImageAI / Tensorflow的新手，但還在學習。

在使用參數獲得更快的學習方面，我認為通過將其設置為False， enhance_data可以讓您更快地學習。 如果您沒有要訓練的大量圖像（小於1000），則此參數應設置為True。 此參數將從現有參數中獲取更多樣本。

enhance_data = False

同樣值得一提的是，如果你因為過度擬合模型而在50個時代之后沒有得到任何更好的結果，你就不必進行所有200代培訓。

聽過使用FP16而不是FP32的“混合精確訓練”？

我自己沒有嘗試過，因為它沒有Nvidia GTX 1080 Ti，因為它沒有張量核心。 但你可以在這里閱讀更多相關信息https://medium.com/tensorflow/automatic-mixed-precision-in-tensorflow-for-faster-ai-training-on-nvidia-gpus-6033234b2540

以供參考：

當我對62個類別（26GB）的圖像數據集進行ResNet培訓時，其具有1000到2000個用於訓練的圖像和200個用於驗證的圖像，每個時期大約需要10分鍾。

對於200代培訓，這將是大約33個小時。

這是我的imageAi python代碼行

model_trainer = ModelTraining()
model_trainer.setModelTypeAsResNet()
model_trainer.setDataDirectory('.')
model_trainer.trainModel(num_objects=classes_in_train, num_experiments=100, 
enhance_data=False, batch_size=32)

Found 81086 images belonging to 62 classes.
Found 13503 images belonging to 62 classes.

Epoch 38/100
231/2533 [=>............................] - ETA: 10:00 - loss: 2.9065e-04 - acc: 0.9999

希望它可能會給你有用的信息。