将时间序列数据拆分为 Python 中的训练测试集和有效集

Question

我正在做一个项目，在这个项目中，如果时间序列（例如 D1、D2），我结合了 2 个数据集。 D1是5-minutes间隔， D2是1-minute间隔，所以我将D1转换为 1 分钟间隔并与D2结合。 现在我想根据这些条件将这个新数据集D1D2拆分为训练集、测试集和有效集：

注意：我进行了很多搜索并尝试找到解决我的问题的方法，但没有任何答案适合我的问题，所以请不要将其标记为重复！

1. 有效集应该是数据集末尾的 60 个值。
2. 然后，测试集应该是直到valid set的最新值
3. 然后，我将使用剩余数据设置火车。

这是我现在进行拆分的方式：

def split_train_test(dataset, train_size, test_size):
    train = dataset[:train_size, :]
    test = dataset[test_size:, :]
    # split into input and outputs
    train_X, train_y = train[:, :-1], train[:, -1]
    test_X, test_y = test[:, :-1], test[:, -1]
    # reshape input to be 3D [samples, timesteps, features]
    train_X = train_X.reshape((train_X.shape[0], 1, train_X.shape[1]))
    test_X = test_X.reshape((test_X.shape[0], 1, test_X.shape[1]))
    print(train_X.shape, train_y.shape, test_X.shape)
    return train, test, train_X, train_y, test_X, test_y

但是现在我需要在上述条件的基础上转换成训练、测试和拆分？

我怎样才能做到这一点？ 而且它是分割时间序列数据集的正确方法吗？

Answer 1

尝试这个：

valid_set = dataset.iloc[-60:, :]
test_set = dataset.iloc[-120:-60]
train_set = dataset.iloc[:-120]

概括：

def split_train_test(dataset, validation_size):
    valid = dataset.iloc[-validation_size:, :]
    train_test = dataset.iloc[:-validation_size)]

    train_length = int(0.63 * len(train_test))

    # split into input and outputs
    train_X, train_y = train_test.iloc[:train_length, :-1], train_test.iloc[:train_length, -1]
    test_X, test_y = train_test.iloc[train_length:, :-1], train_test.iloc[train_length:, -1]
    valid_X, valid_y = valid.iloc[:, :-1], valid.iloc[:, -1]

    return train_test, valid, train_X, train_y, test_X, test_y, valid_X, valid_y

您可以将 % 拆分率作为参数传递到 function 中，而不是像我一样将其硬编码到 function 中。