论文标题

An Efficient Knowledge Transfer Strategy for Spiking Neural Networks from Static to Event Domain 从静态到事件域的脉冲神经网络高效知识迁移策略

论文链接

An Efficient Knowledge Transfer Strategy for Spiking Neural Networks from Static to Event Domain论文下载

论文作者

Xiang He, Dongcheng Zhao, Yang Li, Guobin Shen, Qingqun Kong, Yi Zeng

内容简介

本文提出了一种高效的知识迁移策略，旨在解决脉冲神经网络（SNNs）在静态数据集与事件数据集之间的知识转移问题。由于事件数据集通常标注较少，导致SNNs容易过拟合，限制了其性能。为此，作者提出了一种知识转移损失函数，结合了域对齐损失和时空正则化，以减少静态图像与事件数据之间的特征分布差异。此外，提出的滑动训练策略通过逐步用事件数据替换静态图像输入，确保网络在训练过程中平稳过渡。实验结果表明，该方法在多个神经形态数据集上均优于现有的最先进方法，显著提高了SNNs的泛化能力。

分点关键点

1. 知识转移损失函数

   • 该损失函数由域对齐损失和时空正则化组成，旨在学习静态图像与事件数据之间的域不变特征。域对齐损失通过减少静态图像和事件数据之间的边际分布距离来实现特征对齐，而时空正则化则为域对齐损失提供动态可学习的系数，以更好地捕捉时间特征。
     

2. 滑动训练策略

   • 该策略通过在训练过程中以概率方式逐步用事件数据替换静态图像输入，使网络能够平滑地从依赖静态图像的特征转向完全处理事件数据。这种方法有助于提高模型的稳定性和学习效率。

3. 实验验证

   • 在N-Caltech101、CEP-DVS和N-Omniglot等神经形态数据集上进行的实验表明，所提出的方法在所有数据集上均表现出色，超越了当前的最先进方法，验证了其有效性。
     

4. 领域不匹配问题

   • 文章分析了静态数据集与事件数据集之间的领域不匹配问题，指出特征分布的不一致性是知识迁移的主要障碍。通过提出的解决方案，作者有效地缓解了这一问题。

论文代码

代码链接：https://github.com/Brain-Cog-Lab/Transfer-for-DVS

中文关键词

1. 脉冲神经网络
2. 知识迁移
3. 域对齐损失
4. 时空正则化
5. 滑动训练策略
6. 神经形态数据

AAAI论文合集：

AAAI论文合集

希望这些论文能帮到你！如果觉得有用，记得点赞关注哦~ 后续还会更新更多论文合集！！