如何在 Keras model 中使用加權 MSE 作為損失 function？

Question

我正在嘗試使用自定義損失 function 來計算回歸任務中的加權 MSE（任務中的值：-1、-0.5、0、0.5、1、1.5、3 等）。 這是我對自定義損失 function 的實現：

import tensorflow
import tensorflow.keras.backend as kb

def weighted_mse(y, yhat):
    ind_losses = tensorflow.keras.losses.mean_squared_error(y, yhat)
    weights_ind = kb.map_fn(lambda yi: weight_dict[kb.get_value(yi)], y, dtype='float32')
    # average loss over weighted sum of the batch
    return tensorflow.math.divide(tensorflow.math.reduce_sum(tensorflow.math.multiply(ind_losses, weights_ind)), len(y))

我正在運行一個正在運行的示例：

weight_dict = {-1.0: 70.78125, 0.0: 1.7224334600760458, 0.5: 4.58502024291498, 1.0: 7.524916943521595, 1.5: 32.357142857142854, 2.0: 50.33333333333333, 2.5: 566.25, 3.0: 566.25}
y_true = tensorflow.convert_to_tensor([[0.5],[3]])
y_pred = tensorflow.convert_to_tensor([[0.5],[0]])

weighted_mse(y_true, y_pred)

但是當輸入到我的 model 時，它會拋出以下錯誤：

AttributeError: 'Tensor' object has no attribute '_numpy'

這是我如何使用自定義損失 function：

    model.compile(
    optimizer=opt,
    loss={
        "predicted_class": weighted_mse
    })

編輯：

將weight_dict[kb.get_value(yi)]更改為weight_dict[float(yi)]時，出現以下錯誤：

TypeError: float() argument must be a string or a number, not 'builtin_function_or_method'

Answer 1

你想要的基本上是樣本重量的想法。 當使用 Keras 的訓練 API 時，除了您的數據，您可以傳遞另一個數組，其中包含每個樣本的權重，用於確定每個樣本在損失 function 中的貢獻。

要使用它，您可以使用fit方法的sample_weight參數：

model.fit(X, y, sample_weight=X_weight, ...)

請注意， X_weight應該是一個與X長度相同的數組（即每個訓練樣本一個權重值）。 此外，如果X是tf.data.Dataset實例或生成器，則此參數不起作用，您需要將樣本權重作為X返回的元組的第三個元素傳遞。

Answer 2

這通常發生在舊版本的 tensorflow 中。 您可以嘗試 2 件事：

1. 當您像這樣導入 tensorflow 時，將此行添加到 jupyter 筆記本中：

import tensorflow as tf
tf.enable_eager_execution()

2. 在提示符下使用以下命令升級 tensorflow：

pip install tensorflow --upgrade

這很可能是因為急切的執行。 有關更多信息，請參閱此處的文檔。