Keras 3 API 文档 / 数据加载 / 时间序列数据加载

时间序列数据加载

[源代码]

timeseries_dataset_from_array 函数

keras.utils.timeseries_dataset_from_array(
    data,
    targets,
    sequence_length,
    sequence_stride=1,
    sampling_rate=1,
    batch_size=128,
    shuffle=False,
    seed=None,
    start_index=None,
    end_index=None,
)

从数组中创建时间序列的滑动窗口数据集。

此函数接收按相等间隔收集的数据点序列,以及时间序列参数(如序列/窗口长度、两个序列/窗口之间的间距等),以生成时间序列输入和目标的批次。

参数

  • data:包含连续数据点(时间步长)的 NumPy 数组或 eager tensor。预期轴 0 为时间维度。
  • targets:与 data 中时间步长对应的目标。targets[i] 应该是与索引 i 处开始的窗口对应的目标(参见下面的示例 2)。如果没有目标数据,则传入 None(在这种情况下,数据集将只生成输入数据)。
  • sequence_length:输出序列的长度(以时间步长数计)。
  • sequence_stride:连续输出序列之间的周期。对于步长 s,输出样本将从索引 data[i]data[i + s]data[i + 2 * s] 等开始。
  • sampling_rate:序列内连续单个时间步长之间的周期。对于速率 r,时间步长 data[i], data[i + r], ... data[i + sequence_length] 用于创建样本序列。
  • batch_size:每个批次中的时间序列样本数量(最后一个批次可能除外)。如果为 None,则数据将不进行批处理(数据集将生成单个样本)。
  • shuffle:是否打乱输出样本,或者按时间顺序提取它们。
  • seed:可选 int;用于打乱的随机种子。
  • start_index:可选 int;早于(不包括)start_index 的数据点将不会用于输出序列。这对于保留部分数据用于测试或验证很有用。
  • end_index:可选 int;晚于(不包括)end_index 的数据点将不会用于输出序列。这对于保留部分数据用于测试或验证很有用。

返回

一个 tf.data.Dataset 实例。如果传入了 targets,数据集将生成元组 (batch_of_sequences, batch_of_targets)。否则,数据集将只生成 batch_of_sequences

示例 1

考虑索引 [0, 1, ... 98]。使用 sequence_length=10, sampling_rate=2, sequence_stride=3, shuffle=False,数据集将生成由以下索引组成的序列批次:

First sequence:  [0  2  4  6  8 10 12 14 16 18]
Second sequence: [3  5  7  9 11 13 15 17 19 21]
Third sequence:  [6  8 10 12 14 16 18 20 22 24]
...
Last sequence:   [78 80 82 84 86 88 90 92 94 96]

在这种情况下,最后 2 个数据点被丢弃,因为无法生成完整的序列以包含它们(下一个序列将从索引 81 开始,因此其最后一步将超过 98)。

示例 2:时间回归。

考虑一个形状为 (steps,) 的标量值数组 data。要生成一个使用过去 10 个时间步长预测下一个时间步长的数据集,您可以使用:

input_data = data[:-10]
targets = data[10:]
dataset = timeseries_dataset_from_array(
    input_data, targets, sequence_length=10)
for batch in dataset:
  inputs, targets = batch
  assert np.array_equal(inputs[0], data[:10])  # First sequence: steps [0-9]
  # Corresponding target: step 10
  assert np.array_equal(targets[0], data[10])
  break

示例 3:多对多架构的时间回归。

考虑两个形状都为 (100,) 的标量值数组 XY。结果数据集应包含每个包含 20 个时间戳的样本。样本不应重叠。要生成一个使用当前时间戳预测相应目标时间戳的数据集,您可以使用:

X = np.arange(100)
Y = X*2

sample_length = 20
input_dataset = timeseries_dataset_from_array(
    X, None, sequence_length=sample_length, sequence_stride=sample_length)
target_dataset = timeseries_dataset_from_array(
    Y, None, sequence_length=sample_length, sequence_stride=sample_length)

for batch in zip(input_dataset, target_dataset):
    inputs, targets = batch
    assert np.array_equal(inputs[0], X[:sample_length])

    # second sample equals output timestamps 20-40
    assert np.array_equal(targets[1], Y[sample_length:2*sample_length])
    break

[源代码]

pad_sequences 函数

keras.utils.pad_sequences(
    sequences, maxlen=None, dtype="int32", padding="pre", truncating="pre", value=0.0
)

将序列填充到相同长度。

此函数将(长度为 num_samples 的)序列列表(整数列表)转换为形状为 (num_samples, num_timesteps) 的二维 NumPy 数组。如果提供了 maxlen 参数,则 num_timestepsmaxlen,否则为列表中最长序列的长度。

短于 num_timesteps 的序列将用 value 填充,直到它们达到 num_timesteps 长。

长于 num_timesteps 的序列将被截断,使其符合所需长度。

填充或截断发生的位置分别由参数 paddingtruncating 确定。默认情况下,在序列开头进行预填充或移除值。

>>> sequence = [[1], [2, 3], [4, 5, 6]]
>>> keras.utils.pad_sequences(sequence)
array([[0, 0, 1],
       [0, 2, 3],
       [4, 5, 6]], dtype=int32)
>>> keras.utils.pad_sequences(sequence, value=-1)
array([[-1, -1,  1],
       [-1,  2,  3],
       [ 4,  5,  6]], dtype=int32)
>>> keras.utils.pad_sequences(sequence, padding='post')
array([[1, 0, 0],
       [2, 3, 0],
       [4, 5, 6]], dtype=int32)
>>> keras.utils.pad_sequences(sequence, maxlen=2)
array([[0, 1],
       [2, 3],
       [5, 6]], dtype=int32)

参数

  • sequences:序列列表(每个序列都是整数列表)。
  • maxlen:可选 Int,所有序列的最大长度。如果未提供,序列将填充到最长单个序列的长度。
  • dtype:(可选,默认为 "int32")。输出序列的类型。要用可变长度字符串填充序列,可以使用 object
  • padding:字符串,"pre" 或 "post"(可选,默认为 "pre"):在每个序列之前或之后填充。
  • truncating:字符串,"pre" 或 "post"(可选,默认为 "pre"):从长于 maxlen 的序列中移除值,在序列的开头或结尾。
  • value:浮点数或字符串,填充值。(可选,默认为 0.

返回

形状为 (len(sequences), maxlen) 的 NumPy 数组。