出品人:黎  立
北京航空航天大学教授
荣获MSR 2023 Ric Holt青年研究成就奖,入选澳大利亚2020年优秀青年基金(DECRA),曾被评为全球前三最有影响力的青年软件工程研究人员。主要研究方向为AI安全、智能软件工程和移动软件工程,累计发表高水平期刊和会议论文140余篇,谷歌学术引用超6000次(H-index为38),荣获10项最佳/杰出论文奖励,包括2项IEEE TCSE杰出论文奖、2项ACM SIGSOFT杰出论文奖、1项ACM SIGPLAN杰出论文奖以及等。受邀担任中科院一区期刊(ACM Computing Survey)编委以及包括TOSEM、TSE、ICSE、ESEC/FSE、ASE、ISSTA在内的CCF A类期刊和国际会议的审稿人,多次受邀在国际会议上作特邀报告。                                                                                                  

AI安全

聚焦以大语言模型为代表的人工智能全生命周期安全,包括模型数据安全、算法安全、开发过程安全、部署安全、应用安全等,指引学术界和工业界合力实现AI可信,共建技术、社会、文化、价值融合共生的良性人工智能环境。                                                                                                                                                                  
大模型时代的软件系统安全                                                                                                       
王浩宇
华中科技大学网络空间安全学院教授
博士生导师
华中科技大学网络空间安全学院教授,博士生导师, Security PRIDE团队负责人,华科网安-烽火通信网络安全联合研究中心主任,华中科技大学OpenHarmony技术俱乐部主任。研究方向为新兴软件系统安全,近年共发表论文100余篇,包括CCF-A类论文和CSRankings顶会论文70余篇。曾三次获得CCF A类顶会最佳/杰出论文奖,2021年度北京市科技进步一等奖,2021年度中国通信学会科技进步二等奖,2022年度中国电子学会科技进步二等奖等奖励。          
内容简介:
大模型的发展给系统软件安全带来新的机遇和挑战。一方面,针对传统的软件分析技术,大模型能够提升现有技术的能力和扩展其边界。另一方面,基于大模型的新兴软件系统中引入了更多新的攻击面,例如大模型提示注入攻击、大模型越狱、大模型缓存攻击等。此外,新兴软件生态中也出现了众多基于大模型的新型攻击手段和欺诈方式,给软件安全防护带来了新的挑战。本次报告将从:(1)大模型增强的软件安全技术,(2)大模型软件系统的安全风险分析,(3)新兴软件生态中大模型恶意滥用,这三个维度重新思考大模型时代的软件系统安全。                                                                                                                                                                                                                                                                                                                                   
演讲提纲:
1、大模型系统的新型攻击面  
2、大模型增强的软件分析技术  
3、大模型的恶意滥用  
4、未来大模型+安全的展望                                                                                                                                        
                                                                      
听众受益:
1、了解大模型软件中的安全风险,以及大模型安全测试技术  
2、了解大模型在软件分析和安全研究中的应用,以及大模型提示学习和微调方法
3、了解大模型滥用风险的检测和防范手段
4、拓展大模型的应用思路                             
 
AI安全研究进展与挑战 
王  俊
CCF区块链专业委员会执行委员
OPPO研究院高级专家
数据智能研究部长
博士,CCF区块链专业委员会执行委员,OPPO研究院高级专家、数据智能研究部部长。曾任职于新加坡科技局(A*STAR)与卢森堡国家邮政总公司,分别担任研究员与高级专家。在TDSC, TIFS, ESORICS, IJCAI, ISSTA, MM等高水平国际会议及期刊上发表多篇论文。                
内容简介:
包括大语言模型在内的各种AI技术迅速发展,不断深入到与人们生活息息相关的各个领域,因此AI自身的安全性变得至关重要。报告将介绍针对不同应用场景和不同类型的AI模型的攻击方法,如投毒攻击、后门攻击、prompt注入攻击等。同时也将介绍针对各类攻击方法的防御机制研究的最新进展。                                                                                                                                                                                                                                                         
演讲提纲:
1、面向AI模型的攻击方法
2、 面向数据隐私的攻击方法
3、 面向各类攻击的防御方法
4、AI安全实践与挑战                                                                                                                                                                        
                                                                      
听众受益:
1、了解包括大语言模型在内的AI模型所面临的安全挑战
2、了解AI服务中数据隐私的挑战
3、了解AI安全研究的最新进展                                                                                                    
                                               
面向大模型智能体的AI应用安全风险与挑战                                        
何博远 
华为2012实验室AI应用安全技术专家      
华为2012实验室 AI应用安全技术专家,计算机软件与系统安全方向博士,主要研究领域包括:AI应用安全,高级威胁检测与防御,软件安全分析。
内容简介:
大模型技术的快速发展推动AI应用发生深刻变革,从模型插件、应用Copilot、到Agent(智能体)在催生出全新、丰富的应用场景的同时也带来新的安全风险。现阶段大模型应用面临模型侧AIGC内容安全风险被放大,任务编排失控,应用运行安全防护机制缺失等安全风险,由于大模型应用任务的复杂性与灵活性,且应用侧、模型侧风险紧密关联,导致传统应用安全防护技术难以应对,需探索新的安全防御思路。                                                                                                 
演讲提纲:
1、大模型应用现状与发展趋势
2、大模型应用面临的主要安全风险
3、大模型应用安全风险的应对思路                                                                                                                                                  
                                                                      
听众受益:
1、了解大模型应用发展的现状和未来趋势
2、对大模型及其应用当前面临的主要安全风险建立系统性的认知                                                                            
 
代码大模型的安全问题 - 终端用户与模型供应商的双重视角                       
高翠芸
哈尔滨工业大学(深圳)副教授
哈尔滨工业大学(深圳校区)计算机科学与技术学院副教授,哈工大青年拔尖人才。主要研究方向为智能化软件工程、软件可靠性、软件安全。近年来在TSE、TOSEM、ICSE、FSE、ASE等会议和期刊上发表论文60余篇,是多个顶级会议如FSE、ISSTA、ASE等的评审委员会成员。荣获ASE2023杰出论文奖和其Industry Challenge Track杰出论文奖、指导学生获得ACAIT2022最佳学生论文奖,授权发明专利10余项。                                              
内容简介:
大模型的安全和可信问题直接影响其实际落地和使用。本报告将围绕代码大模型,重点介绍大模型面临的结果不稳定和数据安全问题,包括现有的代码补全系统的缺陷和黑盒修复方案、从大模型窃取数据提升小模型的可能性及其呈现的数据安全问题、面向代码生成系统的水印保护方案,最后对大模型实际落地的安全问题做进一步的讨论。                                                                                
                                                                                                                                                                                                   
演讲提纲:
1、现有大模型和代码大模型以及其面临的数据安全等问题
2、以现有的代码补全系统为例,展示大模型结果的不稳定性,并提出黑盒修复方案
3、从大模型窃取数据提升小模型的可能性,体现了数据安全的重要性
4、为了提升数据安全,探索代码生成系统的水印保护方案
5、大模型实际落地的安全方面的挑战和展望                                                                                                                                                                                      
                                                   
听众受益:
1、了解大模型输出结果的不稳定问题和其黑盒修复方案
2、深入了解大模型的数据安全问题
3、了解保护大模型数据安全的水印方案                                                                            
                                                 
大模式时代的安全运营新模式                                        
陈  岩
深信服科技股份有限公司前沿技术总经理      
在深信服任职期间长期从事核心产品的产品定义及技术研发工作,参与和主持过多个公司级重要产品的架构设计及工程实现工作。先后在应用交付产品线、超融合产品线、企业级分布存储产品线任职架构师、规划经理、产品线总经理等职务。参与的产品在国内取得前三的市场地位,部分产品获得国内第一。                    
内容简介:
最近几年,攻击者利用各种手段,不断利用高级的攻击手法,绕过传统安全设备,造成一系列重大安全事件。随着OpenAI发布了3.5版本,人工智能进入新时代。新技术的出现,让攻击者可以更便捷、更快速地挖掘应用漏洞、生成攻击工具、混淆攻击代码,针对性地构造未知、高级的攻击。ChatGPT出现后,我们通过分析观察到钓鱼邮件、变种病毒的数量都呈现了快速、明显的上升趋势。本报告认为人工、规则、碎片化安全设备等方式已经不能应对新的安全形式,防守者必须充分拥抱AI,拥抱大模型,用机器对抗机器,才能应对大模型时代的安全挑战。本报告将从识别未知、降本增效、以攻促防等多个方面,阐述AI技术的一些应用场景及使用效果。                                                                                
                                                                                               
演讲提纲:
1、大模型下的安全运营产品趋势
2、安全大模型的技术实现及能力评测
3、大模型在安全运营下的实践案例                                                                        
                                                                                                                                               
                                                                      
听众受益:
1、对于企业安全相关人员可以了解大模型在安全运营上的发展趋势
2、对于技术人员可以了解大模型在安全方向上的技术实践                                                                                    
 
京ICP备2020039808号-4