Optuna 在大量试验中建议相同的参数值（浪费时间和预算的重复试验）

Question

由于某种原因，Optuna TPESampler 和 RandomSampler 对任何参数多次尝试相同的建议 integer 值（也可能是浮点数和对数形式）。 我无法找到一种方法来阻止它再次建议相同的值。 在 100 次试验中，有相当一部分只是重复。 在 100 次试验中，唯一建议值计数最终约为 80-90。 如果我包含更多用于调优的参数，比如 3 个，我什至会看到所有 3 个参数在 100 次试验中几次都获得相同的值。

就像这样。 min_data_in_leaf 的 75 被使用了 3 次：

[I 2020-11-14 14:44:05,320] 试验 8 完成值：45910.54012028659 和参数：{'min_data_in_leaf': 75}。 最好的是试验 4，其值为：45805.19030897498。

[I 2020-11-14 14:44:07,876] 试验 9 完成值：45910.54012028659 和参数：{'min_data_in_leaf': 75}。 最好的是试验 4，其值为：45805.19030897498。

[I 2020-11-14 14:44:10,447] 试验 10 完成值：45831.75933279074 和参数：{'min_data_in_leaf': 43}。 最好的是试验 4，其值为：45805.19030897498。

[I 2020-11-14 14:44:13,502] 试验 11 完成值：46125.39810101329 和参数：{'min_data_in_leaf': 4}。 最好的是试验 4，其值为：45805.19030897498。

[I 2020-11-14 14:44:16,547] 试验 12 完成值：45910.54012028659 和参数：{'min_data_in_leaf': 75}。 最好的是试验 4，其值为：45805.19030897498。

示例代码如下：

def lgb_optuna(trial):

    rmse = []

    params = {
        "seed": 42,
        "objective": "regression",
        "metric": "rmse",
        "verbosity": -1,
        "boosting": "gbdt",
        "num_iterations":  1000,
        'min_data_in_leaf':  trial.suggest_int('min_data_in_leaf', 1, 100)
    }

    cv = StratifiedKFold(n_splits=5, random_state=42, shuffle=False)
    for train_index, test_index in cv.split(tfd_train, tfd_train[:,-1]):
        X_train, X_test = tfd_train[train_index], tfd_train[test_index]
        y_train = X_train[:,-2].copy()
        y_test = X_test[:,-2].copy()
        
        dtrain = lgb.Dataset(X_train[:,:-2], label=y_train)
        dtest = lgb.Dataset(X_test[:,:-2], label=y_test)
    
        booster_gbm = lgb.train(params, dtrain, valid_sets=dtest, verbose_eval=False)

        y_predictions = booster_gbm.predict(X_test[:,:-2])
        final_mse = mean_squared_error(y_test, y_predictions)
        final_rmse = np.sqrt(final_mse)
        rmse.append(final_rmse)

     return np.mean(rmse)

study = optuna.create_study(sampler=TPESampler(seed=42), direction='minimize') 
study.optimize(lgb_optuna, n_trials=100) 

Answer 1

问题是您在此行中指定的采样器：

study = optuna.create_study(sampler=TPESampler(seed=42), direction='minimize')

TPESampler不是一个统一的采样器。 这是一个不同的采样器，它试图从有希望的值范围内进行采样。 请在此处和此处查看详细信息。 这就是为什么您看到很多重复项的原因。 对于优化器来说，它们是有前途的值，然后它们会被进一步探索，可能会以不同的组合形式出现。

要进行真正的均匀采样，您应该将采样器更改为：

sampler=RandomSampler(seed)

这不能向您保证不会有重复项，但这些值的分布会更平均

如果您想确保只搜索不同的组合，您应该使用GridSampler 。 正如文档所述：

试验建议在研究期间给定搜索空间中的所有参数组合。

医生在这里

Answer 2

我的目标 function 检查 study.trials_dataframe() 之前是否运行过这些参数，如果运行过则返回 study.trials_dataframe().value。