AiDD研发数字峰会

出品人：高翠芸

哈尔滨工业大学（深圳校区）计算机科学与技术学院教授，哈工大青年拔尖人才。主要研究方向为智能化软件工程、软件可靠性、软件安全。近年来在TSE、TOSEM、ICSE、FSE、ASE等会议和期刊上发表论文90余篇，是多个顶级会议如FSE、ISSTA、ASE等的评审委员会成员。荣获ICSE 2024和ASE2023杰出论文奖，指导学生获得ACAIT2022最佳学生论文奖，授权发明专利30余项。

哈尔滨工业大学（深圳）教授、博导

可信AI安全工程

论坛聚焦AI系统的安全性、鲁棒性与可解释性，涵盖对抗攻击防御、数据隐私保护、输出合规审查与模型溯源等关键技术。构建覆盖全生命周期的可信AI工程体系，保障AI在关键场景中的可靠运行。

自动驾驶中的安全挑战

李渝

浙江大学百人计划研究员

内容简介：

自动驾驶系统的安全性不仅取决于感知与决策算法的性能，更取决于其在复杂环境下对安全威胁的抵御能力。本报告将聚焦两个前沿挑战：其一是对抗涂装的生成，即通过在物理世界中对车辆等目标进行对抗性涂装，使感知模型出现误识别或漏检，从而对自动驾驶安全构成实质威胁。其二是安全关键数据的生成，在真实事故或极端场景难以全面采集的情况下，如何利用生成式人工智能构建高保真、覆盖极端边界条件的安全关键数据集，成为验证与提升自动驾驶鲁棒性的关键环节。报告将结合最新研究与应用实例，探讨对抗样本物理化、生成式数据增强与安全验证的统一框架，为构建可验证、可追溯、可扩展的自动驾驶安全保障体系提供思路。

演讲提纲：
1. 自动驾驶安全挑战北京
2. 对抗涂装：物理世界的安全威胁
3. 安全关键数据生成：覆盖极端场景

听众收益：
1. 了解自动驾驶面临的物理世界对抗性攻击手段
2. 掌握安全关键数据生成在测试与验证中的价值
3. 获得应对对抗威胁与数据稀缺的系统性思路
4. 借鉴生成式AI在安全保障中的应用前沿

浙江大学百人计划研究员。2022年于香港中文大学（2023 QS排名38）计算机科学与工程系取得博士学位。2022至2024年任哈尔滨工业大学（深圳）计算机科学与技术学院助理教授（鹏城孔雀特聘岗位C类）。电子科技大学和鲁汶大学（2023 U.S. News排名50）双学位全奖本科。鲁汶大学全奖硕士，由鲁汶大学与欧洲微电子中心IMEC联合培养，师从集成电路测试领域IEEE Fellow Erik Jan Marinissen教授和焦海龙教授。主要从事国际热点科学问题机器学习软硬件安全测试与优化方法研究并取得一系列原创性成果。截至目前，已发表相关学术论文20余篇，其中一作/通讯9篇，CCF-A类论文8篇，包括硬件测试领域旗舰会议DAC/DATE/ETS/VTS，安全领域顶级旗舰会议CCS/NDSS，机器学习旗舰会议NeurIPS/ICML/IJCAI，软件工程旗舰会议ISSTA等。担任多个国际顶级会议/期刊审稿人，包括NeurIPS，ICML, ICLR, AAAI, ACSAC, Euro S&P, TCAS-I等。获得了2022年亚洲测试会议（Asian Test Symposium）最佳博士论文奖，IEEE测试技术委员会（TTTC）E. J. McCluskey博士论文奖决赛第三名。

AiDD峰会

K+峰会

联系我们