图神经网络学习笔记—高级小批量处理(专题十四)

小批量(mini-batch)的创建对于让深度学习模型的训练扩展到海量数据至关重要。与逐条处理样本不同,小批量将一组样本组合成一个统一的表示形式,从而可以高效地并行处理。在图像或语言领域,这一过程通常通过将每个样本缩放或填充为相同大小的形状来实现,然后将样本在一个额外的维度中分组。该维度的长度等于小批量中分组的样本数量,通常称为 batch_size

由于图是能够容纳任意数量节点或边的最通用的数据结构之一,上述两种方法要么不可行,要么可能导致大量不必要的内存消耗。在 PyG 中,我们选择了另一种方法来实现跨多个样本的并行化。这里,邻接矩阵以对角线方式堆叠(创建一个包含多个孤立子图的巨型图),而节点和目标特征则直接在节点维度上连接,即:
A = [

你可能感兴趣的:(图神经网络入门到精通,人工智能)