关注并收藏
从此不再迷路
计算机视觉研究院
计算机视觉研究院
长按扫码关注我们，回复“TTFNet”获取论文
计算机视觉研究院
概述
当前的目标检测器很少能同时实现短训练时间、快推理速度和高精度。为了达到这种平衡，作者提出了Train-Friendly Network（TTFNet）。从light-head、单阶段和无锚点设计开始，这使得推理速度更快。接着作者重点缩短了训练时间。
我们注意到，从注释框中编码更多的训练样本与增加批处理大小具有相似的效果，这有助于提升学习速率和加速训练过程。为此，作者介绍了一种利用高斯核对训练样本进行编码的新方法。此外，为了更好地利用信息，还设计了主动样本权重。在MSCOCO上的实验表明，TTFNet在平衡训练时间、推理速度和精度方面具有显著优势。它比以前的实时检测器减少了7倍以上的训练时间，同时保持了最先进的性能。此外，TTFNet-18和TTFNet-53的超快速版本的训练时间分别不到SSD300和YOLOv3的十分之一。
历史回顾与背景
目标检测器的精度、推理速度和训练时间等方面都得到了广泛关注和持续改进。然而，很少有工作能在这三者之间取得良好的平衡。直观上，推理速度快的检测器应该有较短的训练时间。然而，事实是大多数实时检测器比非实时检测器需要更长的训练时间。高精度检测器可以大致分为两类——它们的推理速度慢，并且需要大量的训练时间。
第一类网络（Huang, L.; Yang, Y.; Deng, Y.; and Yu, Y. 2015. Densebox: Unifying landmark localization with end to end object detection.）通常依赖于复杂的检测头或后处理。虽然这些设计有助于提升精度和快速收敛，但显著降低了推理速度。因此，这类网络通常不适合实时应用。
为了提高推理速度，研究人员努力简化检测头和后处理，同时保持准确性（Zoph, B., and Le, Q. V. 2017. Neural architecture search with reinforcement learning.）。在最近的一项名为CenterNet的研究中，推理时间进一步缩短，几乎与主干网络消耗的时间相同。然而，所有这些网络不可避免地需要很长的训练时间。这是因为这些网络由于简化而难以训练，使得它们在很大程度上依赖于数据增强和较长的训练时间。例如，CenterNet需要在公共数据集MSCOCO上进行140个epochs的训练。相比之下，第一类网络通常只需要12个epochs。
动机
根据线性缩放规则，可以通过增大批处理大小来提高学习速率。然而，仔细分析随机梯度下降（SGD）的公式，我们也可以通过增加高质量的正样本数量来达到同样的效果。也就是说，不仅可以增大n，也可以增大m。
回顾SGD的公式，权重更新表达式可以描述为：
对于目标检测，图像x可以包含多个注释框，这些框将被编码到训练样本s∈Sx中。Mx=|Sx|表示图像x中所有框产生的样本数，因此上式可以表述为：
为了简化，假设mx对于小批量B中的每个图像x是相同的。关注个体训练样本s，上式可以改写为：
线性缩放规则是在经验中发现的，如果批处理大小乘以k，则学习速率应该乘以k，除非网络正在迅速变化，或者采用非常大的mini-batch批处理。也就是说，用小的mini-batch Bj和学习速率η执行k迭代基本上相当于用大的mini-batch ∪j∈[0，k)Bj和学习速率kη执行1迭代，只有当我们可以假设：
这个条件通常是在大规模的真实世界数据下满足的。
较大的学习速率不能帮助CenterNet更快地收敛，并且删除数据增强会导致性能变差。根据上面的结论，我认为这是因为CenterNet在训练过程中只在目标中心编码一个单一的回归样本。这种设计使得CenterNet在很大程度上依赖于数据增强和较长的训练时间，导致不友好的训练时间。
Wifi优化大师最新版是一款免费的手机应用程序，专为优化 Wi-Fi 体验而设计。它提供以下功能： 增强信号：提高 Wi-Fi 信号强度，防止网络中断。 加速 Wi-Fi：提升上网速度，带来更流畅的体验。 Wi-Fi 安检：检测同时在线设备，防止蹭网。 硬件加速：优化硬件传输性能，提升连接效率。 网速测试：实时监控网络速度，轻松获取网络状态。 Wifi优化大师还支持一键连接、密码记录和上网安全测试，为用户提供全面的 Wi-Fi 管理体验。
为了减少网络对数据增强的依赖，同时减少训练时间，我认为需要更好的编码回归样本的策略。在这一动机的指导下，作者提出新的方法，在消融研究中进行更全面的实验可以进一步验证新方法的优越性。
新方法
TTFNet的体系结构如上图所示。在实验中使用了ResNet和DarkNet作为主干网络。主干网络提取的特征被采样到原始图像的1/4分辨率，这是通过Modulated Deformable Convolution（MDCN）和上采样层实现的。在MDCN层之后是批归一化（BN）和ReLU。上采样的特征然后分别通过两个头部为不同的目标。
检测头在物体中心附近的位置产生高激活，而回归头直接预测从这些位置到box四面的距离。由于目标中心对应于特征映射处的局部最大值，因此可以在2D最大池的帮助下安全地抑制非最大值。然后利用局部最大值的位置来收集回归结果。
最后，可以得到检测结果。新提出的方法有效地使用了大中型目标中包含的注释信息，但对于包含很少信息的小目标，推广是有限的。为了在较短的训练计划中提高小目标的检测性能，添加了shortcut connections来引入高分辨率但低级别的特征。shortcut connections从主干的2级、3级和4级引入特征，每个连接由3×3卷积层实现。第二、第三和第四阶段的层数设置为3、2和1，除了shortcut connections中的最后一层外，ReLU遵循在每个层。
与CenterNet相比，主要在以下两方面进行了改进：
中心定位
对于中心点的位置回归，两个方法都使用了高斯核来增加正样本的数量，也都使用了Focal Loss。但是CenterNet和CornerNet一样，高斯核里的参数sigma只和bbox的面积有关，没有充分考虑bbox的纵横比，而TTFNet为长和宽分别设置了sigma，从而更加合适。
大小回归
这部分才是本文作者提出的重点，也是增加高质量样本的实际做法。CenterNet只把heatmap上Object的Center点以及相邻的4个点作为正样本进行物体的大小回归监督，并且只回归bbox的w和h。
而TTFNet继续采取高斯核的方式增加正样本的个数，同时每个正样本回归对应点到bbox四个边的距离。
实验
不同核结果
在shortcut connections中使用不同设置时，速度-准确性权衡如下
与其他性能比较
TTFNet vs. CenterNet
可视化
／End.
