关于forward函数

定义

• forward 函数是模型的核心前向传播逻辑，定义了输入数据如何在模型中传递和计算。
• 它将输入数据通过模型的各层（如卷积层、全连接层等），计算出模型的输出。

作用

• 负责模型的主要计算逻辑。
• 在训练和验证过程中都会被调用。

特点

• 必须实现：在 PyTorch 中，forward 函数是模型的核心部分，必须显式定义。
• 灵活性高：可以根据模型需要，自由定义 forward 函数的内容，包括各种计算操作。

示例（PyTorch）

import torch.nn as nn

class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        self.conv1 = nn.Conv2d(1, 32, kernel_size=3)
        self.fc1 = nn.Linear(32 * 26 * 26, 10)

    def forward(self, x):
        x = self.conv1(x)
        x = torch.relu(x)
        x = x.view(x.size(0), -1)  # 展平
        x = self.fc1(x)
        return x

model = MyModel()
output = model(input_data)  # 会自动调用 forward 函数

PyTorch 中的 forward 函数调用机制

在 PyTorch 中，nn.Module 类的核心机制如下：

• 当你实例化一个模型时，模型的实例会继承 nn.Module 的所有属性和方法。
• 当你调用 model(...) 时，实际上是在调用 nn.Module 的 __call__ 方法。
• __call__ 方法会自动调用模型的 forward 函数，并将其参数传递给它。

因此，以下两种写法是等价的：

• 直接调用 forward 函数

output = model.forward(input_data)

• 通过 model(...) 自动调用 forward 函数

output = model(input_data)

第二种方式更为简洁，是 PyTorch 推荐的使用方式。