Mel谱图层

[源代码]

MelSpectrogram 类

keras.layers.MelSpectrogram(
    fft_length=2048,
    sequence_stride=512,
    sequence_length=None,
    window="hann",
    sampling_rate=16000,
    num_mel_bins=128,
    min_freq=20.0,
    max_freq=None,
    power_to_db=True,
    top_db=80.0,
    mag_exp=2.0,
    min_power=1e-10,
    ref_power=1.0,
    **kwargs
)

一个用于将原始音频信号转换为梅尔谱图的预处理层。

此层接收 float32/float64 单个或批处理的音频信号作为输入，并使用短时傅里叶变换和梅尔尺度计算梅尔谱图。输入应为表示音频信号的一维（非批处理）或二维（批处理）张量。输出将为表示梅尔谱图的二维或三维张量。

频谱图是一种类似图像的表示，显示了信号随时间变化的频率谱。它使用 x 轴表示时间，y 轴表示频率，每个像素表示强度。梅尔谱图是一种特殊的频谱图，它使用梅尔尺度，该尺度近似于人类感知声音的方式。它们通常用于语音和音乐处理任务，如语音识别、说话人识别和音乐流派分类。

参考文献

• 频谱图,
• 梅尔尺度.

示例

非批处理音频信号

>>> layer = keras.layers.MelSpectrogram(num_mel_bins=64,
...                                     sampling_rate=8000,
...                                     sequence_stride=256,
...                                     fft_length=2048)
>>> layer(keras.random.uniform(shape=(16000,))).shape
(64, 63)

批处理音频信号

>>> layer = keras.layers.MelSpectrogram(num_mel_bins=80,
...                                     sampling_rate=8000,
...                                     sequence_stride=128,
...                                     fft_length=2048)
>>> layer(keras.random.uniform(shape=(2, 16000))).shape
(2, 80, 125)

输入形状

形状为 (..., samples) 的一维（非批处理）或二维（批处理）张量。

输出形状

形状为 (..., num_mel_bins, time) 的二维（非批处理）或三维（批处理）张量。

参数

• fft_length: 整数，FFT 窗口的大小。
• sequence_stride: 整数，连续 STFT 列之间的样本数。
• sequence_length: 整数，用于对每个音频帧应用 window 的窗口大小。如果为 None，则默认为 fft_length。
• window: 字符串，要使用的窗口函数的名称。可用值为 "hann" 和 "hamming"。如果 window 是一个张量，它将直接用作窗口，并且其长度必须为 sequence_length。如果 window 为 None，则不使用窗口。默认为 "hann"。
• sampling_rate: 整数，输入信号的采样率。
• num_mel_bins: 整数，要生成的梅尔频带数。
• min_freq: 浮点数，梅尔频带的最小频率。
• max_freq: 浮点数，梅尔频带的最大频率。如果为 None，则默认为 sampling_rate / 2。
• power_to_db: 如果为 True，则将功率谱图转换为分贝。
• top_db: 浮点数，最小负截止值 max(10 * log10(S)) - top_db。
• mag_exp: 浮点数，幅度谱图的指数。1 表示幅度，2 表示功率，依此类推。默认为 2。
• ref_power: 浮点数，功率相对于它进行缩放 10 * log10(S / ref_power)。
• min_power: 浮点数，功率和 ref_power 的最小值。