Circle Loss: A Unified Perspective of Pair Similarity Optimization

本文从一个统一的角度来看待成对的相似度优化问题 (Pair Similarity Optimization)，这个问题的目的是让不同类别之间的相似度尽可能小，让同一类别的相似度尽可能大；

统一两类损失函数

目前大部分的损失函数，以经典的粗分类损失函数 Softmax Cross Entrophy 和细分类损失函数 Triplet Loss 为例子，其优化方法是可以统一起来用和表示，然后去减小 ( - ), 越小，越大，上式也就越小

1. 粗分类代表：Softmax 交叉熵损失函数

--------------------------------------------------------------------------------

---------------------------------------------------------------------------------

---------------------------------------------------------------------------------

softmax 交叉熵损失的特点：

对于目标分数的梯度为，为负数，
- 梯度回传使得目标分数逐渐增加，与onehot中的 1 的差距越来越小
对于非目标分数的梯度为，为正数，
- 梯度回传使得非目标目标分数逐渐减小，与onehot中的 0 的差距越来越小
，正样本的梯度与所有其他负样本的梯度之和是等值反向的
所有的梯度之和为0，可以看到，回传的正负梯度是平衡的

2. 细分类代表：Triplet Loss

细分类相对于粗分类来说，其类别急剧增加；比如说人脸识别，就存在着好几十亿个类别，这样类别数就远大于特征的数目；这样子如果再使用softmax交叉熵来处理的话，对算力的需求就急剧增大了；而且softmax交叉熵在处理这类细微差别的效果也不好，因此就需要新的损失函数；
FaceNet提出了 triplet loss，其目的是构造了一个三元组，使得同一类别的差距尽可能小，然后不同类别的差距尽可能大

当 L 趋向于0时，，也就是说，同一类样本的距离是小于其与不同样本的距离的，即，使得同一类别的相似度尽可能大，不同类别的相似度尽可能小；
函数又可以通过来拟合

2.1 triple loss流程：

image.png

3.两类损失的统一

粗分类和细分类的损失是可以统一起来的，其统一的损失公式如下

$\begin{aligned} \mathcal{L}_{u n i} &=\log \left[1+\sum_{i=1}^{K} \sum_{j=1}^{L} \exp \left(\gamma\left(s_{n}^{j}-s_{p}^{i}+m\right)\right)\right] \\ &=\log \left[1+\sum_{j=1}^{L} \exp \left(\gamma\left(s_{n}^{j}+m\right)\right) \sum_{i=1}^{K} \exp \left(\gamma\left(-s_{p}^{i}\right)\right)\right] \end{aligned}$

对于粗分类来说，softmax可以分解为：类内(onehot 为1的，只有一个) + 类外(某一类和其他类组成，N-1 个)

再来看松弛变量（有的论文里面叫温度 T），为什么需要，举例说明：
------------------------------------------------------------------
x = [1 2 3 4]
softmax(x) = [0.0321 0.0871 0.2369 0.6439]

从这个例子来看，本来1和4只差4倍，通过指数函数的放大作用，Softmax后的结果相差大约20倍。这样看，Softmax起到了近似 one-hot max 的作用，但 0.6439 其实也不算靠近1，近似效果不佳。
-----------------------------------------------------------------
x放大十倍
x = [10 20 30 40]
softmax(x) = [9.36e-14 2.06e-9 4.54e-5 1.00]
------------------------------------------------------------------
x = [0.1 0.2 0.3 0.4]
softmax(x) = [0.2138 0.2363 0.2612 0.2887]
------------------------------------------------------------------

温度项控制着 Softmax 的 smooth 程度，越大，则 Softmax 越接近one-hot max，越小，则近似效果越差。那么只要我们引入这一项，并将设置得足够大，是不是就能解决问题了呢？
其实没那么容易，注意到这个是施加在所有的分数 z 上的，所以这是对分数的一个线性变换，由于 z 本身就是通过一个内积层（全连接层）得到的，线性-线性还是线性，所以这个在优化过程中会被融合进前边的内积层，只要进行充分的训练，是不会产生什么实际的影响的。
于是就可以动态的设置 ,根据当前分数 z 的大小动态地设置，就像炼丹一样，随时把控火炉的温度，

相似度加权，优化更加灵活

1. 相似度加权

当前的损失函数的优化是不灵活的，对于上面一点指出的，损失进行梯度回传的时候对于和的梯度是等值反向的；这就存在一个问题，和的优化不是完全同步的，也就说和分别与其各自的最优点的距离是不一样的
因此，不能以完全相同的梯度对二者进行更新，离最优点近的应该要小火慢熬，离最优点远的应该大火猛煮
于是，本文提出对和进行加权，而其权重的大小是应该与他们和最优点的距离是成正相关的，也就是说，越接近最优点，其权重应该越小，对应回传的梯度也因为乘以了这个梯度变得更小；反之，其权重就应该越大，使得回传的梯度也越大；

于是给每个相似度增加了一个权重

$\begin{aligned} \mathcal{L}_{\text {circle}} &=\log \left[1+\sum_{i=1}^{K} \sum_{j=1}^{L} \exp \left(\gamma\left(\alpha_{n}^{j} s_{n}^{j}-\alpha_{p}^{i} s_{p}^{i}\right)\right)\right] \\ &=\log \left[1+\sum_{j=1}^{L} \exp \left(\gamma \alpha_{n}^{j} s_{n}^{j}\right) \sum_{i=1}^{K} \exp \left(-\gamma \alpha_{p}^{i} s_{p}^{i}\right)\right. \end{aligned}$

其中

与最优点的距离越近，这个权重就越小，与最优点的距离越远，这个权重就越大

2. Margin

对于没有权重的损失函数，和是对称的，在上附加一个正的margin 相当于对施加一个负的 margin,因此最后面就只需要一个margin就够了
而现在增加了权重后，和就不是对称的了，因此这里需要2个margin
$\mathcal{L}_{c i r c l e}=\log \left[1+\sum_{j=1}^{L} \exp \left(\gamma \alpha_{n}^{j}\left(s_{n}^{j}-\Delta_{n}\right)\right) \sum_{i=1}^{K} \exp \left(-\gamma \alpha_{p}^{i}\left(s_{p}^{i}-\Delta_{p}\right)\right)\right]$

这个地方说期望，不明白；？？？？？？
-------------------------------------------------------------
以二分类为例，将权重代入统一的损失函数，可以得到：

是一个关于 ,的圆，这也就是为什么这篇文章叫做 circle loss的原因
---------------------------------------------------------
可以看到，这样子 circle loss就存在5个超参数，太麻烦，于是作者进行了简化：

于是，决策边界可以改为：

Cicle Loss的优点：

image.png

1. Balanced optimization on ,
- 如上图 A(S_n=0.8, S_p = 0.8),其中离最优点1已经很接近了，但是离最优点0还有很远，
- 而如图(a)所示，triplet loss 无论对还是的梯度都还很大，这是不应该的
- 但circle loss，如图 (c) 所示，可以看到，c_左，离最优点很远，其梯度很大；同时，c_右，离最优点已经很近了，所以其梯度比较小，这是符合逻辑的
  --------------------------------------------------------
1. Gradually-attenuated gradients
- 一般的梯度在收敛前都基本保持不变，直到收敛时其梯度陡降，可以看到，图(a)，triplet loss的决策面是几乎垂直的；而且B点相比与A点来说更加接近决策边界，但是他们优化时的惩罚力度是相同的，这也是不应该的
- 而从图(c)来看，在初始远离最优点时其梯度比较大，然后慢慢接近最优点时其梯度是逐渐减低的
  ------------------------------------------------------
1. A (more) definite convergence target
- triple loss的决策边界是平行的，这样边界线上的任意一个点都可能被看作是最优点
- 而circle loss 是圆形的分界面，其最优点就只有一个
  
  image.png

消融实验

权重的加入，对不同的，性能比较稳定

image.png
的变化

image.png

可以看到，circle loss的增加得比SM-softmax更快，最后的拟合效果也更好。

Circle Loss: A Unified Perspective of Pair Similarity Optimization

Circle Loss: A Unified Perspective of Pair Similarity Optimization

统一两类损失函数

1. 粗分类代表：Softmax 交叉熵损失函数

2. 细分类代表：Triplet Loss

2.1 triple loss流程：

3.两类损失的统一

相似度加权，优化更加灵活

1. 相似度加权

2. Margin

Cicle Loss的优点：

消融实验

你可能感兴趣的:(Circle Loss: A Unified Perspective of Pair Similarity Optimization)