用于目标检测的任务专用零样本量化感知训练

发表
ChanghaoChanghao 提交
作者: ChanghaoChanghao Li, Xinrui Chen, Ji Wang, Kang Zhao, Jianfei Chen

摘要

量化是一种关键技术,通过以较低精度表示网络参数来减小网络规模和计算复杂性。传统的量化方法依赖于访问原始训练数据,但由于隐私问题或安全挑战,这通常受到限制。零样本量化(ZSQ)通过使用从预训练模型生成的合成数据来解决这个问题,从而消除了对真实训练数据的需求。最近,ZSQ已被扩展到目标检测领域。然而,现有方法使用缺乏目标检测所需特定信息的无标签任务无关合成图像,导致性能不佳。在本文中,我们提出了一种新颖的用于目标检测网络的任务特定ZSQ框架,该框架包含两个主要阶段。首先,我们引入了一种边界框和类别采样策略,从预训练网络中合成一个任务特定的校准集,无需任何先验知识即可重建目标位置、大小和类别分布。其次,我们将任务特定训练整合到知识蒸馏过程中,以恢复量化检测网络的性能。在MS-COCO和Pascal VOC数据集上进行的广泛实验证明了我们方法的效率和最先进的性能。我们的代码已公开,网址为:https://github.com/DFQ-Dojo/dfq-toolkit
查看 arXiv 页面查看 PDF

评论

ChanghaoChanghao
论文作者
论文提交者

🚀 前所未有地解锁零样本QAT!

我们推出一个强大的即插即用零样本QAT框架,它无缝支持四大领先的目标检测骨干网络——YOLOv5、YOLO11、Mask R-CNN和ViT。无论您是突破界限的研究人员,还是构建实际应用的实践者,这个工具包都是您实现快速、免校准量化的启动平台!

🔗 代码: https://github.com/DFQ-Dojo/dfq-toolkit

🌐 项目页面: https://dfq-dojo.github.io/dfq-toolkit-webpage