在重新訓練的初始階段使用批處理請求

Question

我想用在使用再培訓盜夢空間模型批量請求retrain.py從tensorflow（實際可用的樞紐庫）。 不幸的是，我找不到任何可用的文檔。

基本上我是使用inception_client.py在tensorflow_model_server容器上執行對tensorflow_model_server請求，並且當有一個圖像（即使使用參數--enable_batching ）時也很好用。 我嘗試使用tf.stack()使用10張圖像的堆疊列表來測試批處理，但它引發以下異常：

AbortionError（code = StatusCode.INVALID_ARGUMENT，details =“要重塑的輸入是具有20480個值的張量，但請求的形狀為2048 [[節點：pool_3 / _reshape =重塑[T = DT_FLOAT，Tshape = DT_INT32，_output_shapes = [[1 ，2048]]，_ device =“ / job：localhost /副本：0 /任務：0 /設備：CPU：0”]（pool_3，pool_3 / _reshape / shape）]“”）

我猜我的模型不支持批處理請求。 因此，我應該如何重新訓練Inception模型以支持批處理請求？

Answer 1

這是批處理的示例： https : //www.tensorflow.org/serving/serving_advanced

首先嘗試閱讀該教程，希望它能回答一些問題。