CS231n学习笔记——批量归一化（Batch Normalization）、监视训练

CS231n学习笔记——批量归一化（Batch Normalization）

想要保持单位高斯激活，那么就需要做批量归一化，即在神经网络中额外加入一层，以使得中间的激活值均值为0方差为1。

如果我们想要正确的激活单位高斯函数，我们可以取目前处理的批数据的均值，利用均值和方差来进行归一化，如果我们要在训练的每一层都保持良好的高斯分布，就需要进行批量归一化。而且需要它能够微分，这样才能在梯度反向传播的时候计算局部梯度。

这一步通常在全连接层（或卷积层）与激活函数之间进行。批量归一化处理的是输入数据而不是权重。
在完成归一化操作后，需要进行额外的缩放操作，γ和β都是学习到的参数，用来恢复恒等函数。

批量归一化改进了整个网络的梯度流，具有更好的鲁棒性，能够在更广泛的学习率和不同初始值下工作。所以一旦使用批量归一化训练会变得更容易。
也可以把它看作正则化的一种。

监视训练

监视训练过程并在训练过程中调整超参数。
第一步，数据初始化，做零均值处理
第二步，选择网络结构，包括隐藏层数量，每层神经元数量等
第三步，完整性检查

首先关闭正则项，loss的值

然后加入正则项，观察到loss上升表示正确
第四步，开始训练，先用一小部分数据训练，确保训练过程中loss在降低，准确率在上升
第五步，拿出全部数据训练，加上一个小正则化项，然后从小值开始尝试学习率，会存在一个loss变化不大，但是准确率上升的过程，这是因为参数值依然分散，但是性能略有提升。

超参数最优化

对任何超参数，执行交叉验证：在训练集上训练，然后在验证集里验证效果。

如图是在一定范围内搜索最佳学习率。
通常来说学习率是最重要的参数，应该先确定它，之后像regularization正则化，学习判据和模型大小等并不是那么敏感，所以应该来回迭代，先找出最佳学习率然后返回寻找其他超参数。