如何在 Keras model 中使用加权 MSE 作为损失 function？

Question

我正在尝试使用自定义损失 function 来计算回归任务中的加权 MSE（任务中的值：-1、-0.5、0、0.5、1、1.5、3 等）。 这是我对自定义损失 function 的实现：

import tensorflow
import tensorflow.keras.backend as kb

def weighted_mse(y, yhat):
    ind_losses = tensorflow.keras.losses.mean_squared_error(y, yhat)
    weights_ind = kb.map_fn(lambda yi: weight_dict[kb.get_value(yi)], y, dtype='float32')
    # average loss over weighted sum of the batch
    return tensorflow.math.divide(tensorflow.math.reduce_sum(tensorflow.math.multiply(ind_losses, weights_ind)), len(y))

我正在运行一个正在运行的示例：

weight_dict = {-1.0: 70.78125, 0.0: 1.7224334600760458, 0.5: 4.58502024291498, 1.0: 7.524916943521595, 1.5: 32.357142857142854, 2.0: 50.33333333333333, 2.5: 566.25, 3.0: 566.25}
y_true = tensorflow.convert_to_tensor([[0.5],[3]])
y_pred = tensorflow.convert_to_tensor([[0.5],[0]])

weighted_mse(y_true, y_pred)

但是当输入到我的 model 时，它会抛出以下错误：

AttributeError: 'Tensor' object has no attribute '_numpy'

这是我如何使用自定义损失 function：

    model.compile(
    optimizer=opt,
    loss={
        "predicted_class": weighted_mse
    })

编辑：

将weight_dict[kb.get_value(yi)]更改为weight_dict[float(yi)]时，出现以下错误：

TypeError: float() argument must be a string or a number, not 'builtin_function_or_method'

Answer 1

你想要的基本上是样本重量的想法。 当使用 Keras 的训练 API 时，除了您的数据，您可以传递另一个数组，其中包含每个样本的权重，用于确定每个样本在损失 function 中的贡献。

要使用它，您可以使用fit方法的sample_weight参数：

model.fit(X, y, sample_weight=X_weight, ...)

请注意， X_weight应该是一个与X长度相同的数组（即每个训练样本一个权重值）。 此外，如果X是tf.data.Dataset实例或生成器，则此参数不起作用，您需要将样本权重作为X返回的元组的第三个元素传递。

Answer 2

这通常发生在旧版本的 tensorflow 中。 您可以尝试 2 件事：

1. 当您像这样导入 tensorflow 时，将此行添加到 jupyter 笔记本中：

import tensorflow as tf
tf.enable_eager_execution()

2. 在提示符下使用以下命令升级 tensorflow：

pip install tensorflow --upgrade

这很可能是因为急切的执行。 有关更多信息，请参阅此处的文档。