KerasHub: 预训练模型 / API 文档 / 预处理层 / RandomDeletion 层

RandomDeletion 层

[来源]

RandomDeletion

keras_hub.layers.RandomDeletion(
    rate,
    max_deletions=None,
    skip_list=None,
    skip_fn=None,
    skip_py_fn=None,
    seed=None,
    name=None,
    dtype="int32",
    **kwargs
)

通过随机删除 token 来增强输入。

当你需要使用删除增强来生成新数据时,此层非常方便,如论文 [EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks] (https://arxiv.org/pdf/1901.11196.pdf) 中所述。该层期望输入预先分割成 token 级别的输入。这允许控制增强的粒度,你可以按字符分割进行字符级交换,或按词分割进行词级交换。

输入数据应以张量、tf.RaggedTensor 或列表的形式传递。对于批处理输入,输入应为列表的列表或二维张量。对于非批处理输入,每个元素应为列表或一维张量。

参数

  • rate: token 被选择删除的概率。
  • max_deletions: 要删除的最大 token 数。
  • skip_list: 不应被视为删除候选的 token 值列表。
  • skip_fn: 一个函数,输入一个标量张量 token,输出一个标量张量 True/False 值。True 值表示该 token 不应被视为删除候选。此函数必须可追溯(tracable)——它应该由 tensorflow 操作组成。
  • skip_py_fn: 一个函数,输入一个 python token 值,输出 TrueFalse。True 值表示不应被视为删除候选。与 skip_fn 参数不同,此参数无需可追溯——它可以是任何 python 函数。
  • seed: 随机数生成器的种子。

示例

词级用法。

>>> keras.utils.set_random_seed(1337)
>>> x = ["Hey I like", "Keras and Tensorflow"]
>>> x = list(map(lambda x: x.split(), x))
>>> augmenter = keras_hub.layers.RandomDeletion(rate=0.4, seed=42)
>>> y = augmenter(x)
>>> list(map(lambda y: " ".join(y), y))
['I like', 'and']

字符级用法。

>>> keras.utils.set_random_seed(1337)
>>> x = ["Hey Dude", "Speed Up"]
>>> x = list(map(lambda x: list(x), x))
>>> augmenter = keras_hub.layers.RandomDeletion(rate=0.4, seed=42)
>>> y = augmenter(x)
>>> list(map(lambda y: "".join(y), y))
['H Dude', 'pedUp']

结合 skip_list 的用法。

>>> keras.utils.set_random_seed(1337)
>>> x = ["Hey I like", "Keras and Tensorflow"]
>>> x = list(map(lambda x: x.split(), x))
>>> augmenter = keras_hub.layers.RandomDeletion(rate=0.4,
...     skip_list=["Keras", "Tensorflow"], seed=42)
>>> y = augmenter(x)
>>> list(map(lambda y: " ".join(y), y))
['I like', 'Keras Tensorflow']

结合 skip_fn 的用法。

>>> def skip_fn(word):
...     return tf.strings.regex_full_match(word, r"\pP")
>>> keras.utils.set_random_seed(1337)
>>> x = ["Hey I like", "Keras and Tensorflow"]
>>> x = list(map(lambda x: x.split(), x))
>>> augmenter = keras_hub.layers.RandomDeletion(rate=0.4,
...     skip_fn=skip_fn, seed=42)
>>> y = augmenter(x)
>>> list(map(lambda y: " ".join(y), y))
['I like', 'and']

结合 skip_py_fn 的用法。

>>> def skip_py_fn(word):
...     return len(word) < 4
>>> keras.utils.set_random_seed(1337)
>>> x = ["Hey I like", "Keras and Tensorflow"]
>>> x = list(map(lambda x: x.split(), x))
>>> augmenter = RandomDeletion(rate=0.4,
...     skip_py_fn=skip_py_fn, seed=42)
>>> y = augmenter(x)
>>> list(map(lambda y: " ".join(y), y))
['Hey I', 'and Tensorflow']