ATSS(Adaptive Training Sample Selection)是一种新的样本选择方法,和传统的设置一个固定的IOU阈值不同,ATSS对每一个GT Box,根据它的统计信息计算出一个IOU阈值.具体的算法如下图所示:
对每一个GT box,在特征金字塔FPN的每一层,选择距离中心最近的k个anchor box,然后计算所有这些anchor box和这个GT box的IOU,再计算所有这些IOU的均值mg和方差vg,计算出阈值tg=mg+vg.这是因为,如果均值mg高,说明IOU普遍较高,那么就应该适当提高IOU阈值.如果方差vg高,说明IOU高的anchor box集中在一层,那么就应该提高tg,集中在这一层选择样本,如下图(a)所示;如果方差vg低,说明IOU高的anchor box分布在多层,那么就应该降低tg,在多层选择样本,如下图(b)所示.
在RetinaNet和FCOS上应用了ATSS,实验结果表明,mAP提高了0.8~2.9个百分点.