TopKSampler
类keras_hub.samplers.TopKSampler(k=5, seed=None, **kwargs)
Top-K 采样器类。
这个采样器实现了 Top-K 搜索算法。简单来说,Top-K 算法会从概率最高的 K 个 token 中随机选择一个 token,选择几率由概率决定。
参数
k
值。None
。调用参数
{{call_args}}
示例
causal_lm = keras_hub.models.GPT2CausalLM.from_preset("gpt2_base_en")
# Pass by name to compile.
causal_lm.compile(sampler="top_k")
causal_lm.generate(["Keras is a"])
# Pass by object to compile.
sampler = keras_hub.samplers.TopKSampler(k=5, temperature=0.7)
causal_lm.compile(sampler=sampler)
causal_lm.generate(["Keras is a"])