（通讯员程齐凯）近日，第29届ACM计算机与通信安全会议(ACM Conference on Computer and Communications Security, CCS 2022)官方发布了论文录用结果。我院2020级博士研究生刘家伟以第一作者身份撰写的论文被录用。

该论文题目为“Order-Disorder: Imitation Adversarial Attacks for Black-box Neural Ranking Models”（《有序-无序：针对黑盒神经排序模型的模仿对抗攻击》），武汉大学为第一单位，指导教师为我院陆伟教授（通讯作者）、美国伍斯特理工学院刘晓钟副教授（共同通讯作者）、美国印第安纳大学Xiaofeng Wang教授，阿里巴巴达摩院算法专家康杨杨、宋凯嵩、孙常龙，印第安纳大学博士后Di Tang参与论文相关工作。

随着基于Transformer的BERT等预训练模型的提出和广泛应用，经过深度预训练和微调的Transformer在众多文本排序任务中取得了最优越的性能。然而，神经排序模型继承了神经网络的对抗性弱点，即一个小的故意的扰动（例如，图像上的一些像素变化、文本中几个字符的改变）可能会引发预测结果的极大变化，这种弱点可能被用作搜索引擎毒化、观点引导等。先前的对抗排序攻击主要集中在基于深度图像排序系统、文本分类和机器翻译系统上，而深度文本排序模型的漏洞尚未得到较多探索。此外，真实场景下的排序系统禁止任何形式的白盒访问，黑盒攻击更能揭示贴近实际的排序系统漏洞。

该论文利用不同神经网络之间的对抗样本的可转移特性，提出了一种针对深度文本排序系统的新型黑盒攻击方法，揭示了深度文本排序模型存在的安全漏洞。通过采样目标排序模型的结果列表，无需任何白盒访问权限，训练一个模仿模型来替代目标排序模型，基于替代模型生成对抗攻击文本，然后迁移到目标排序模型上验证攻击效果。大量的自动检测和人工评测证明，该方法能够以黑盒方式有效实现攻击目标。

ACM CCS已有近30年的历史，在系统及网络安全领域享有崇高的声誉，一直引领国际信息安全研究的潮流，谷歌H-5指数为98，为计算机安全与密码学领域期刊会议最高，同时被中国计算机学会（CCF）认定为网络安全A类国际学术会议，与IEEE S&P、USENIX Security、NDSS被业界并称为网络安全领域“四大顶级会议”。

2021年，刘家伟曾在人工智能领域顶级会议AAAI（CCF-A类）发表论文“Time to Transfer: Predicting and Evaluating Machine-Human Chatting Handoff”。这是我院首次在CCS和AAAI发表论文。（责编雷婷）

论文录用列表：https://www.sigsac.org/ccs/CCS2022/program/accepted-papers.html

论文预印版链接：https://arxiv.org/abs/2209.06506