智能感知与计算研究中心
中国科学院自动化研究所   联系我们    English
 
     学术交流
微软亚洲研究院首席研究员王井东访问中心并作学术报告

      作为智感中心的智能感知与计算系列讲座嘉宾,微软亚洲研究院王井东首席研究员受邀于2021年7月2日做了题为“Local Transformer Attention is Equivalent to Convolution”的学术报告。报告由我中心张兆翔研究员主持,并受到了自动化所师生的热烈响应。

      Local Vision Transformer 近期吸引了很多研究者的兴趣。局部注意力模块(local Attention)作为Local Vision Transformer 中的主要组件,在小的局部窗口上分别执行注意力操作。在本次报告中,王井东研究员从稀疏连接、权重共享和动态权重等几个方面分析了局部注意力。他表明了局部注意力等同于异构的动态深度卷积(inhomogeneous dynamic depth-wise convolution)。在ImageNet 分类、COCO 对象检测和 ADE 分割的实验结果中,表明了使用卷积进行动态权重预测的非均匀动态深度卷积在微型模型情况下优于Local Vision Transformer和 Swin Transformer,在基础模型情况下的实验结果也几乎类似。此外,王井东研究员讲解了一个关系图来解释各种网络之间的关系,包括最近开发的基于 MLP 的模型、ViT 和基于卷积的模型。

      王井东研究员的报告精彩纷呈,吸引了许多师生前来交流学习,现场座无虚席。会后,大家积极提出相关问题与王井东研究员进行了深入探讨。

 
友情链接
 
中国科学院自动化研究所 模式识别实验室
中国科学院自动化研究所  事业单位   京ICP备14019135号-3