基于剪枝蒸馏的低复杂度音频场景分类方法

本发明公开了一种基于剪枝蒸馏的低复杂度音频场景分类方法，该分类方法包括如下步骤：1.利用重参数技术构建Rep‑Mobile模型，将加入的不同形状的卷积核通过零值补全成原始3×3卷积核形状，通过等价转换将BatchNorm层中的线性映射合并至卷积核的偏置值，将不同的卷积核进行线性加和合并至一个主分支；2.利用多个教师模型融合蒸馏策略，对学生模型进行知识蒸馏，通过蒸馏损失和分类损失共同指导学生模型的优化；3.利用迭代剪枝策略，将单步剪枝压缩为多次小步，降低参数的间隔。本发明能够在不增加参数量和计算量的情况下，大幅提升分类准确率；实现计算资源节约、增强模型泛化能力，模型大小显著减小且计算效率提升。
上海交通大学
钱彦旻 | 韩冰