成电讲堂

　　11月25日，“学术沙龙”开展“对抗智能与安全前沿进展”主题系列讲座。此次活动由人力资源部教师发展中心主办，计算机科学与工程学院，中共计算机学院教工第六支部委员会承办。活动邀请北京航空航天大学刘祥龙教授、浙江大学纪守领研究员、清华大学苏航副研究员以及电子科技大学王国庆教授，四位专家学者围绕“对抗智能与安全前沿进展”进行专题报告与研讨。活动吸引了相关领域学者和学生共计400余人线上参会。

北京航空航天大学教授刘祥龙报告

　　北京航空航天大学教授刘祥龙带来了题为“深度学习对抗攻防与安全评测”的报告。报告中，刘祥龙教授主要围绕深度学习对抗样本问题，分析深度学习安全挑战、对抗攻击与防御（尤其是物理世界对抗攻防）国内外主要进展和具体研究案例，重点介绍团队近年来针对深度学习提出的测试、理解和优化的深度学习对抗攻防与安全评测的研究工作，最后介绍了团队发布的深度学习安全评测平台“重明”以及物理环境仿真测试环境“万象”。

浙江大学研究员纪守领报告

　　浙江大学研究员纪守领进行了题为“''Is your explanation stable?'' A Robustness Evaluation Framework for Feature Attribution”的研究报告。目前，解释神经网络模型行为的一种重要方法是特征归因，即将其决策归因于关键特征。尽管目前已有众多特征归因算法被提出，它们中的大多数旨在提高对模型的忠实度。然而，最近的工作表明，解释算法对随机噪声不稳定并且容易受到对抗性攻击，这使得模型的解释在实际场景中难以信任，特别是在重视安全的应用程序中。纪教授以特征归因解释算法为例，介绍了团队近期针对特征归因算法的量化不确定性的理论研究，以及针对特征归因算法的鲁棒性评估框架MeTFA，最后介绍了几种衡量解释算法在随机噪声场景中的忠实性和稳定性的评估准则。

清华大学副研究员苏航报告

　　清华大学副研究员苏航进行了题为“Adversarial Machine Learning”的研究报告，介绍了人工智能在飞速推动技术革命和产业进步的同时，其存在的安全风险往往被人忽视。许多在数据集上表现良好的算法非常容易被对抗性样本所欺骗，导致AI系统判断失准，给人工智能的应用和部署带来了极大的安全隐患。还针对目前深度学习对抗攻防中存在的问题，从对抗鲁棒的基本原理出发，介绍团队围绕深度学习的对抗攻击和鲁棒防御的最新研究进展，探讨物理世界对抗攻击的真实风险，最后介绍了深度学习对抗安全平台ARES，以及基于该平台发展的算法安全基准。

 电子科技大学教授王国庆报告

　　电子科技大学教授王国庆带来了题为“多模态可信人机交互”的报告，介绍了人机可信交互既是机器人行为学领域的前沿研究方向，也是兼具社会学和工程学的交叉学科领域。但人机可信交互在社会学领域的研究还很滞后，仅仅停留于研究改变人机信任关系的影响因素，难以为共融机器人的技术攻关和自动驾驶等产业推动提供社会学领域的人文指引。人机的信任修复及信任再校准是人机共融团队（自动驾驶）中的普遍现实问题（人机信任失衡），但当前这一领域的研究尚未得到足够关注。以自动驾驶、家用机器人为案例，系统分析可信交互的挑战与机遇，多模态交互是否能有效校准人机信任失衡，以及多模态交互如何构建可信交互模式，还介绍了团队在该方向上的最新研究工作，包括多模态缓解过度信任、多模态修复信任受损等。

　　此次学术报告分别从深度学习对抗攻防与安全测试、针对特征归因的鲁棒评估框架、对抗机器学习以及多模态可信人机交互研究课题展开，向与会者介绍了最新的对抗攻防与人工智能可靠性前沿技术，充分激发了大家的兴趣和热情。

　　相关链接：

　　刘祥龙，北京航空航天大学教授，博导，国家级青年人才计划入选者。现任北京航空航天大学软件开发环境国家重点实验室副主任、计算机学院院长助理，主要研究人工智能安全、开放认知。近年来，主持国家自然科学基金、国防科技创新重点项目、科技创新2030重大项目等多项国家课题；发表IEEE CVPR、ICCV等国际顶级会议及期刊论文100余篇。研究成果受到新华社、人民网等权威媒体和杂志关注。担任Pattern Recognition等SCI期刊编委，ACM MM、AAAI等国际会议领域主席，启智开源开放平台技术委员会委员。曾获省部级一等奖2项、北京市科技新星、中国计算机学会优秀博士学位论文等。

　　纪守领，浙江大学“百人计划”研究员、博导、国家级青年人才计划入选者、浙江大学党委组织部副部长（挂职）、滨江研究院国产信创研究中心副主任，获佐治亚理工学院电子与计算机工程博士学位、佐治亚州立大学计算机科学博士学位。主要研究方向为人工智能与安全、数据驱动安全、软件与系统安全和大数据分析，发表IEEE S&P, USENIX Security, ACM CCS, KDD等CCF A类论文100余篇，研制的多个系统在大型平台上获得部署应用。获国家优秀留学生奖、网络系统安全领域CCF A类会议ACM CCS 2021最佳论文奖等10项最佳论文奖、华为优秀技术成果奖、浙江大学先进工作者等。   

　　苏航，清华大学计算机系副研究员、国家级青年人才计划入选者，主要研究对抗机器学习和鲁棒视觉计算等相关领域，发表CCF推荐A类会议和期刊论文50余篇，谷歌学术论文引用5000余次，获得吴文俊人工智能自然科学一等奖，ICME铂金最佳论文、MICCAI青年学者奖和AVSS最佳论文等多个学术奖项，曾率队在NeurIPS2017对抗攻防等多个国际学术比赛中获得冠军。现任中国图像图形学会青工委执委、VALSE执行AC委员会主席，担任NeurIPS21的领域主席（Area Chair）、AAAI22 Workshop Co-Chair，并在多次ICML等顶级国际会议上作为分论坛主席组织对抗学习专题研讨。 

　　王国庆，电子科技大学计算机科学与工程学院教授、博导，国家级青年人才计划入选者。长期从事人工智能、计算机视觉、多媒体计算、智能无人系统领域的理论与应用研究。担任中国科协和教育部“英才计划”指导老师、担任JW科技委主题专家组秘书，担任国际会议SoCAV 2023的大会程序委员会主席，担任ACM MM、AAAI、ICME等知名国际会议领域主席和主题主席，担任多个国际SCI期刊编委。在中科院一区期刊和CCF A类会议等发表论文70余篇，出版学术专著2部。主持国家自然科学基金项目、JW科技委重点项目课题、ZF预研课题、四川省重点研发计划项目等。部分成果转化应用于构建网络媒体信息认知管控平台、智能无人系统等，产生一定经济价值和社会效益。