人脸识别损失函数简介与Pytorch实现：ArcFace、SphereFace、CosFace

加入极市 专业CV交流群，与 6000+来自腾讯，华为，百度，北大，清华，中科院 等名企名校视觉开发者互动交流！更有机会与 李开复老师 等大牛群内互动！

同时提供每月大咖直播分享、真实项目需求对接、干货资讯汇总，行业技术交流。关注  极市平台  公众号  ， 回复  加群， 立刻申请入群~

来源： 知乎

作者：Uno Whoiam

链接： https://zhuanlan.zhihu.com/p/60747096

本文 已由作者授权转载，未经允许，不得二次转载。

一般来说，人脸识别分三步走：

1. 找人脸： 图片中找出含人脸的区域框出来

2. 对齐人脸： 将人脸的眼镜鼻子嘴巴等标出来，以此作为依据对齐人脸

3. 识别： 将对齐的人脸进行识别，判定这张脸究竟是谁

本篇要介绍的损失函数，用于第三步骤，聚焦于更准确地识别这张脸究竟属于谁，本质上属于一个分类问题。

一言以蔽之ArcFace、SphereFace、CosFace三个损失函数相对于前辈们而 言，改进的一个核心思路就是：

只有平常（train）更刻苦的训练，才有可能在比赛中（test）中得到更好的结果。 

它们都对卷积神经网络提出了更高的目标，在训练阶段更为艰难，也因此让其成为了一个更好的分类器。

一、从前辈说起

首 先谈谈他们的前辈：  

维基百科介绍：

简单来说 softmax 将一组向量进行压缩，使得到的向量各元素之和为 1，而压缩后的值便可以作为置信率，所以常用于分类问题。 另外，在实际运算的时候，为了避免上溢和下溢，在将向量丢进softmax之前往往先对每个元素减去其中最大值，即：

想了解更多，可以参考： 忆臻： softmax函数计算时候为什么要减去一个最大值？https://zhuanlan.zhihu.com/p/29376573

再谈谈一个容易搞混的东西：  

上面我们丢入一个长度为     的     向量，得到     ，而softmax loss呢，则是：

其中     是一个长度为     的one-hot向量，即     ，只有ground truth对应的     。 所以也可以简写为：

到这里我们不妨在看看交叉熵     ：

其中     是真实分布，在分类任务中，     实际上等价于上面的     。 而     则是预测分布，在分类任务中     实际上等价于上面的     。 这样一来进行化简就得到：

我咋觉得这么眼熟呢…

所以，我们可以得到：

参考链接： https://blog.csdn.net/u014380165/article/details/77284921

二、SphereFace

论文地址： https://arxiv.org/pdf/1704.08063.pdf

要想增强     的分类能力，其实就是要在分布上做到两点：

1. 让同类之间距离更近

2. 让不同类之间距离更远

不妨继续看看   ：

其中     代表两个向量     之间的夹角，如果对     归一化，将偏置     置为0，即     ，则有：

下标     表示     。

对于     我们乘上一个大于等于1的整数     ：

这样不仅放大了类之间的距离，也因放大了同类     与     之间的间隔而使类内更聚拢。

不过上述公式仍有问题： 原来的     ，如今     超出了向量之间的夹角函数     定义域范围     咋办？

那就变个函数呗，把n个cos怼起来变成一个递减的连续的函数：

这样一来：

如此我们就得到了SphereFace的损失函数  

原论文则是：

其中     表示第    个样本，     表示第     个样本的     标签，    表示第    和样本     之间的夹角。

论文中的可视化图片：

pytorch代码实现：

# SphereFace
class SphereProduct(nn.Module):
    r"""Implement of large margin cosine distance: :
    Args:
        in_features: size of each input sample
        out_features: size of each output sample
        m: margin
        cos(m*theta)
    """

    def __init__(self, in_features, out_features, m=4):
        super(SphereProduct, self).__init__()
        self.in_features = in_features
        self.out_features = out_features
        self.m = m
        self.base = 1000.0
        self.gamma = 0.12
        self.power = 1
        self.LambdaMin = 5.0
        self.iter = 0
        self.weight = Parameter(torch.FloatTensor(out_features, in_features))
        nn.init.xavier_uniform(self.weight)

        # duplication formula
        # 将x\in[-1,1]范围的重复index次映射到y\[-1,1]上
        self.mlambda = [
            lambda x: x ** 0,
            lambda x: x ** 1,
            lambda x: 2 * x ** 2 - 1,
            lambda x: 4 * x ** 3 - 3 * x,
            lambda x: 8 * x ** 4 - 8 * x ** 2 + 1,
            lambda x: 16 * x ** 5 - 20 * x ** 3 + 5 * x
        ]
        """
        执行以下代码直观了解mlambda
        import matplotlib.pyplot as  plt
        mlambda = [
            lambda x: x ** 0,
            lambda x: x ** 1,
            lambda x: 2 * x ** 2 - 1,
            lambda x: 4 * x ** 3 - 3 * x,
            lambda x: 8 * x ** 4 - 8 * x ** 2 + 1,
            lambda x: 16 * x ** 5 - 20 * x ** 3 + 5 * x
        ]
        x = [0.01 * i for i in range(-100, 101)]
        print(x)
        for f in mlambda:
            plt.plot(x,[f(i) for i in x])
            plt.show()
        """

    def forward(self, input, label):
        # lambda = max(lambda_min,base*(1+gamma*iteration)^(-power))
        self.iter += 1
        self.lamb = max(self.LambdaMin, self.base * (1 + self.gamma * self.iter) ** (-1 * self.power))

        # --------------------------- cos(theta) & phi(theta) ---------------------------
        cos_theta = F.linear(F.normalize(input), F.normalize(self.weight))
        cos_theta = cos_theta.clamp(-1, 1)
        cos_m_theta = self.mlambda[self.m](cos_theta)
        theta = cos_theta.data.acos()
        k = (self.m * theta / 3.14159265).floor()
        phi_theta = ((-1.0) ** k) * cos_m_theta - 2 * k
        NormOfFeature = torch.norm(input, 2, 1)

        # --------------------------- convert label to one-hot ---------------------------
        one_hot = torch.zeros(cos_theta.size())
        one_hot = one_hot.cuda() if cos_theta.is_cuda else one_hot
        one_hot.scatter_(1, label.view(-1, 1), 1)

        # --------------------------- Calculate output ---------------------------
        output = (one_hot * (phi_theta - cos_theta) / (1 + self.lamb)) + cos_theta
        output *= NormOfFeature.view(-1, 1)

        return output

    def __repr__(self):
        return self.__class__.__name__ + '(' \
               + 'in_features=' + str(self.in_features) \
               + ', out_features=' + str(self.out_features) \
               + ', m=' + str(self.m) + ')'