Conditional Gaussian Distribution Learning for Open Set Recognition CVPR2020开放集识别论文解读

 [17] Sun X ,  Yang Z ,  Zhang C , et al. Conditional Gaussian Distribution Learning for Open Set Recognition[C]// 2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). IEEE, 2020.

在本文中，我们提出了一种新的方法，即条件高斯分布学习（CongDL，实际可以看成是条件阶梯式VAE，不过条件用来限制高斯分布，没有进行条件式生成，不是CVAE），用于开放集识别。除了检测未知样本外，该方法还可以通过强迫不同的潜在特征近似不同的高斯模型来对已知样本进行分类。同时，为了避免隐藏在输入中的信息在中间层消失，我们还采用了概率梯形结构来提取高级抽象特征。

在训练中，包括三个损失，一个是重建损失Lr，一个分类损失Lc，一个KL L(kl)分布损失。Lr是L1损失，最小化VAE的重建损失。Lc是交叉熵损失，最小化基于潜在特征的分类误差。KL损失包括潜在特征的KL,和其他层的KL，潜在特征层KL是使不同类的潜在特征服从不同的多变量高斯分布，其他层的KL使本层特征的分布与前向修正后的特征一致（参考 How to train deep variational autoencoders and probabilistic ladder networks）。

在测试时，设置好重建损失阈值，类概率阈值。首先计算样本的分类概率，然后 计算重建损失R，并选择分类概率最高的那个类K，计算样本属于该类的概率Pk,如果重建损失R小于阈值并且类概率Pk大于阈值，则分类为最高类K，否则分类为未知类。

 （Pkz为样本属于类k的概率，即高斯分布（多变量独立）中样本落在z的远离类中心侧的概率）