contrastive loss与triplet loss

作者: ltochange | 来源:发表于2021-07-12 19:00 被阅读0次

【损失函数合集】超详细的语义分割中的Loss大盘点
contrastive loss与triplet loss
字节CV面经
Contrastive Loss(对比损失)
深度学习里常用的几种损失函数小结
Triplet-loss
Beyond triplet loss: a deep quad
loss函数之triplet loss
Triplet Loss及tensorflow实现
Triplet Network, Triplet Loss及其t

在这里插入图片描述
图片来自论文Improved Deep Metric Learning with Multi-class N-pair Loss Objective

Distance Metric Learning学习的相对距离，而不在乎实际的值。包含如图所示的两种形式， $x$ 是代表输入样本， $y$ 是代表对应的标签， $f$ 是代表模型：

（1）contrastive loss：输入是两个（组）样本，计算loss时，需要区分两个样本是否属于同类，若属于同类（相似），loss等于距离的值，若不属于同类（不相似）并且距离大于m，loss的值忽略不计（样本易分，不关注），否则等于m减去两个样本的距离。

${L}_{\text {cont }}^{m}\left(x_{i}, x_{j} ; f\right)=\mathbf{1}\left\{y_{i}=y_{j}\right\}\left\|f_{i}-f_{j}\right\|_{2}^{2}+\mathbf{1}\left\{y_{i} \neq y_{j}\right\} \max \left(0, m-\left\|f_{i}-f_{j}\right\|_{2}\right)^{2}$

（2）triplet loss：输入是三个（组）样本，当与负样本距离大于正样本，并且差值大于m时，loss忽略不计（样本易分，不关注），学习得目标是使得与正样本之间得距离越小，与负样本之间的距离越大。

${L}_{\text {tri }}^{m}\left(x, x^{+}, x^{-} ; f\right)=\max \left(0,\left\|f-f^{+}\right\|_{2}^{2}-\left\|f-f^{-}\right\|_{2}^{2}+m\right)$

距离函数可以自定义，图中使用的是欧式距离。

网友评论

本文标题：contrastive loss与triplet loss

本文链接：https://www.haomeiwen.com/subject/iprdpltx.html

延伸阅读

深度阅读

您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

contrastive loss与triplet loss

相关文章

【损失函数合集】超详细的语义分割中的Loss大盘点