TopKSampler

[源代码]

TopKSampler

keras_hub.samplers.TopKSampler(k=5, seed=None, **kwargs)

Top-K 采样器类。

这个采样器实现了 Top-K 搜索算法。简单来说,Top-K 算法会从概率最高的 K 个 token 中随机选择一个 token,选择几率由概率决定。

参数

  • k:int,Top-K 中的 k 值。
  • seed:int。随机种子。默认为 None

调用参数

{{call_args}}

示例

causal_lm = keras_hub.models.GPT2CausalLM.from_preset("gpt2_base_en")

# Pass by name to compile.
causal_lm.compile(sampler="top_k")
causal_lm.generate(["Keras is a"])

# Pass by object to compile.
sampler = keras_hub.samplers.TopKSampler(k=5, temperature=0.7)
causal_lm.compile(sampler=sampler)
causal_lm.generate(["Keras is a"])