pad_sequence

pad_sequence 是 PyTorch 提供的工具，用于将一组张量序列（通常是变长的序列）进行填充。 pad_sequence 默认的填充方式是将所有序列填充到同一长度，即最长的序列的长度，这样可以确保所有序列都具有相同的维度。在处理变长序列时，pad_sequence 会自动找到需要填充的最大序列长度，然后使用默认的填充值（通常是 0）。

texts = pad_sequence([torch.LongTensor(sample[0][0]) for sample in batch], padding_value=PAD)
images = pad_sequence([torch.FloatTensor(sample[0][1]) for sample in batch])
speechs = pad_sequence([torch.FloatTensor(sample[0][2]) for sample in batch])

1. pad_sequence Function

• pad_sequence 接受一个列表作为输入，其中每个元素是一个形状为 (seq_length, *) 的张量（例如 torch.LongTensor 或 torch.FloatTensor）。
• 它会自动找到列表中最长的序列长度，然后填充所有序列到这个长度。
• 默认填充值是 0，但可以通过 padding_value 参数指定其他值。例如，如果你想用 PAD 填充（这里假设 PAD 是某个特殊的值，例如 0，请确保 PAD 是一个实际的张量或标量）。

2. 如何自动填充？

在这个例子中，pad_sequence 会：

• 找到所有输入张量（在每个元素 [sample[0][0]] 中）中最大的序列长度。
• 根据这个最长的序列长度，对每个张量进行补齐。对于长度短的序列，使用 PAD 值填充。

例如，如果 batch 中包含以下张量：

[torch.LongTensor([1, 2, 3]), torch.LongTensor([1, 2]), torch.LongTensor([1])]

• 最长的序列长度是 3。
• pad_sequence 将会将第一个序列填充为 [1, 2, 3]，第二个序列填充为 [1, 2, 0]，第三个序列填充为 [1, 0, 0]，其中 0 是填充的 padding_value（假设 PAD 是 0）。

3. 代码示例

在 pad_sequence 中，padding_value=PAD 的含义是：

texts = pad_sequence([torch.LongTensor(sample[0][0]) for sample in batch], padding_value=PAD)

• 在这个代码片段中，pad_sequence 会填充每个文本序列（例如 sample[0][0] 中的张量）以确保所有序列长度相同，并使用 PAD 来填充。具体如何填充是基于找到最长序列的长度。

4. 图例

对于不同类型的数据，pad_sequence 通常会像下所示处理：

• texts: 填充文本序列。
• images: 填充图像序列。
• speechs: 填充音频序列。

总之，pad_sequence 自动处理不同长度的序列，使其对齐到同一维度，填充短序列并确保统一长度。这个过程对于处理变长序列的批次非常有用。