第45届国际信息安全顶会IEEE Symposium on Security and Privacy（IEEE S&P 2024）将于2024年5月在美国旧金山召开。网信院闫峥教授团队的最新研究成果“FlowMur: A Stealthy and Practical Audio Backdoor Attack with Limited Knowledge”被该会议全文收录，并将在大会作报告。
据悉，IEEE S&P又称Oakland，与ACM CCS、USENIX Security、NDSS并列称为安全领域的四大国际顶级学术会议，其近十年的平均录用率约为13%，发表难度在四大顶会里最高，被中国计算机学会（CCF）认定为A类会议。该会议收录的论文代表着相关研究领域的最高水平，在业界具有广泛而深远的影响。
该研究成果由西安电子科技大学的闫峥教授团队和普渡大学的Elisa Bertino教授合作完成，闫峥教授的博士生兰佳禾、博士生王杰、硕士生闫保辰为论文的前三作者，通讯作者为闫峥教授。
该论文聚焦语音识别安全，开创性地提出了首个仅需有限敌手知识、隐蔽且实用的语音后门攻击方法FlowMur。FlowMur通过构建辅助数据集和代理模型增强敌手知识。它充分考虑了语音的动态性以及环境噪声的影响，将触发器的生成形式化为一个优化问题，提升了攻击的实用性。此外，FlowMur采用了基于信噪比的自适应数据投毒手段，实现了攻击的隐蔽性。基于多个公开数据集和经典语音识别AI模型的实验结果表明，FlowMur在数字和物理场景下均展现出强大的攻击性能，造成AI模型的失灵，并能绕过当前最先进的防御手段。用户测试进一步证实了FlowMur的不易察觉性，因此其具有极强的危害性。
FlowMur攻击流程图
近年来，语音识别快速发展，已被广泛应用于智能语音助手、语音购物、声纹认证等场景，极大地便利了人们的日常生活，但其安全性仍是一个悬而未决的问题。该论文的发表在一定程度上推动了语音识别系统安全的研究，有助于未来构建更加安全的语音识别系统。同时，这种攻击也可被用于验证语音数据集和语音识别模型的所有权，进行审计和溯源。该论文向外界展示了西安电子科技大学在人工智能安全领域研究的领先成果，标志其在该领域的研究得到了国际同行的高度认可。