CVPR2021|ACNet再进化,清华大学提出Inception类型的DBB

发布网友发布时间：2024-10-02 00:04

共1个回答

热心网友时间：2024-10-14 01:24

CVPR2021年的一项重要研究成果是清华大学北京国家信息科学与技术研究中心和旷视科技的团队共同提出的Inception类型的DBB（Diverse Branch Block），该论文名为"Diverse Branch Block: Building a Convolution as an Inception-like Unit"，由Xiaohan Ding, Xiangyu Zhang, Jungong Han, Guiguang Ding四位作者共同完成。DBB是一种创新的模块，它将Inception网络的多分支和多尺度思想与过参数化理念相结合，通过设计两种可组合的变换，构建了动态的多分支结构，旨在增强现有卷积神经网络(ConvNet)的性能，同时保持推理时的效率。

论文的核心是DBB，它通过在训练时采用复杂的微结构（如不同尺度分支、多层卷积或平均池化），在推理时又能等价转化为单一卷积，实现了“训练时复杂，推理时简洁”的特点。在ImageNet数据集上，DBB显著提升了模型的top-1精度，达到1.9%的提升，同时在目标检测和语义分割任务上也表现出色。DBB的设计包括六个关键变换，如卷积与BN的合并、分支加法、深度拼接等，每个变换都经过精心设计以最大化性能提升。

实验结果表明，DBB在CIFAR、ImageNet、Cityscapes和COCO等数据集上展现了强大的性能，无论是图像分类还是目标检测，都能带来显著的性能提升。此外，论文还提供了不同分支的消融实验分析，证实了DBB各部分的有效性。尽管文中还介绍了DBB的几种变体，但它们的性能均未超过基本的DBB结构。