URL: https://github.com/sebgao/LIP

TL;DR

ICCV 2019 提出了简单高效通用的由局部重要性建模的下采样池化层，一统不同任务所需设计的最大、平均、间隔池化策略，刷新了小目标检测的SOTA。

Dataset

ImageNet & MSCOCO

Algorithm

作者首先通过局部累加网络(LAN)对现有的池化策略——最大、平均、跳步卷积、细节保护(DPP)等的分析发现它们都是局部优化的。 并提出理想的池化操作应具备特性: * 预期下采样过程尽可能地处理微小的移位和失真，因此应避免采用固定间隔采样方案，即步幅卷积使用的F。 * 重要性函数F应该对判别特征具有选择性，而不是基于先验知识手动设计，即在最大池和DPP中使用的F。这种判别性措施应适应不同的任务，并由最终目标自动确定。

image 于是作者设计出了LIP，自适应任务的为池化区域的每个位置设置权重。 重要性计算函数采用了全卷积的设计以适应不同的输入。

Model

对于原有的CV模型，可以直接将池化层替换为本文的LIP，对于resnet的跨步卷积，可以替换为普通卷积和LIP。 image 为了提高LIP的权重计算，重要性计算函数logit采用了参数共享、仿射实例归一化等策略。

Experiment Detail

对于LIP，再性能和效果两方面都进行了实验。 image 在计算量增长不多的情况下，实现了图片分类和目标检测的提升。 image 同时还用局部累加网络LAN对新的池化过程进行了可视化。

Thoughts

感觉像是高效的注意力机制。