arXiv · Neural and Evolutionary Computing· Hina Otake, Shinei Arakawa, Keitaro Tanaka 等 6 人
· 1 天前
FDSML:公式驱动的监督度量学习与参数感知三元组损失
FDSML: Formula-Driven Supervised Metric Learning with Parameter-Aware Triplet Loss
预印本 · 尚未经过同行评审
AI 导读
FDSML 用图像生成参数构建三元组监督,ResNet-50 检索 Recall@1 在 Stanford Cars 从 56.2% 升至 78.4%。
摘要 · AI 翻译
公式驱动监督学习(FDSL)使得无需真实图像即可进行视觉预训练,但现有方法将预训练视为对离散化标签的分类,丢弃了生成过程中的连续性。我们提出公式驱动监督度量学习(FDSML),它从图像生成参数中导出关系监督,而非仅依赖离散类别标签。FDSML 将 FineFractalDB(我们改进的分形数据集,具有更高的类内变化和更稳定的结构)与参数感知三元组(PA-Triplet)损失相结合,该损失根据底层迭代函数系统参数空间中的距离来分配正样本和负样本。该目标训练嵌入以遵循由参数导出的相对相似性排序。实验表明,FDSML 提升了对图像检索的迁移能力,同时在下游分类上保持竞争力,并在若干损坏设置下提升了鲁棒性。在 ResNet-50 上,相较于 FDSL 预训练,Recall@1 在 Stanford Online Products 上从 65.6% 提升至 74.0%,在 Stanford Cars 上从 56.2% 提升至 78.4%。这些结果表明,对于识别之外的迁移,参数导出的关系监督提供了比基于标签的分类更强的合成预训练信号。
中文由 AI 翻译,仅供参考,以原文为准。
来源:arXiv · Neural and Evolutionary Computing · arxiv.org