论坛主席:张冬梅
Dr. Dongmei Zhang is a Distinguished Scientist at Microsoft with extensive experiences in research and development. She pioneered and established “Software Analytics” as a new research direction, founding the Software Analytics Group at Microsoft Research Asia in 2009 to drive the integration and advancement of data, AI, and software engineering. She subsequently expanded her work into the field of data intelligence by creating the “Data, Knowledge & Intelligence (DKI)” research group. Over a career spanning more than twenty years at Microsoft, Dr. Zhang has led her teams to closely collaborate with product teams across the company on technology transfer. Her contributions include digital ink technologies in Windows 7 and Microsoft Math, as well as foundational research in Software Analytics, AIOps, and data intelligence that have enhanced and impacted products such as Power BI, Excel, Azure, and Microsoft 365. Currently, she is the Chief Scientist of the Microsoft Software Technology Center in China (STCA) while continuing to lead the DKI research group. Dr. Zhang received her Ph.D. in Robotics from the School of Computer Science at Carnegie Mellon University. She received her M.E. and B.E. from Tsinghua University.
微软 杰出科学家
微软 STCA首席科学家

AI前沿技术探索与实践

本论坛深入探讨AI Agent在软件工程中的落地试点和无限可能,将聚焦于智能体如何模拟人类认知理解任务要求,实现大模型与传统软件工程工具链的有力结合,如AI Agent在单测生成任务、系统测试执行任务等环节的落地场景,研究落地路径和落地难点。你将与AI业内专家分享最新研究成果、共同探索AI Agent赋能软件工程的奇妙过程!
被忽略的胜负手,IAAS层如何决定AI大模型训推的性能上限
刘小杨(望云)
阿里云 技术专家
内容简介:
当算力军备竞赛聚焦于 GPU 峰值性能时,一个常被忽视的事实是:训推任务能否跑满算力,往往不取决于卡,而取决于卡之外的 IaaS 层。网络带宽与时延、RDMA 拥塞控制、存储 IO、虚拟化开销、拓扑亲和性等任一短板,都会让昂贵的 GPU 陷入"等待"。本次演讲将沿着"通算 → 智算"的演进脉络,并结合线上训练与推理性能瓶颈分析实战案例,拆解从现象定位到根因归因的完整方法论,揭示 IaaS 层这一"被忽略的胜负手"如何决定 AI大模型训推的性能上限。

演讲提纲:
1.算力幻觉 —— 为什么买了顶配 GPU,性能却没达到预期?
1.1一组反差数据:标称算力 vs 实际 MFU/吞吐
1.2一笔经济账:万卡集群每提升 1% MFU,等价于多少张 GPU、多少千万级成本节省
1.3行业现状:注意力高度集中在 GPU 卡,IaaS 层被默认"够用"
1.4核心观点:性能优化,是 AI 时代企业的核心竞争力
2.重新认识 IaaS 层 —— 从"通算"到"智算"的范式转变
2.1通算时代 IaaS 的设计假设:CPU 为中心、东西向流量小
2.2智算时代的新约束:万卡互联、集合通信主导、显存与带宽强耦合
2.3一张图看懂:智算 IaaS 的四大支柱(计算 / 网络 / 存储 / 调度)
3.性能瓶颈的技术迭代史 —— IaaS 层做对了什么
3.1计算侧:虚拟化损耗、NUMA 亲和、GPU 直通与拓扑感知
3.2网络侧:从 TCP 到 RDMA/RoCE,再到自研高性能网络与拥塞控制
3.3存储侧:从本地盘到并行文件系统,Checkpoint 与数据加载的优化
3.4调度侧:拓扑感知调度、Scheduling、故障自愈与断点续训
4.实战案例:训推场景的性能瓶颈定位 —— 智算场景更强调全链路性能分析方法
4.1AI infra 全链路性能分析方法
4.2案例背景:DDP训练性能优化案例
4.3案例背景:在线推理RT抖动分析案例
5.从实战到新架构 —— 解法的演进与被引入的新挑战
5.1从性能瓶颈到架构革新
5.2新架构带来的衍生挑战
6.总结与展望

听众收益:
1.帮助听众建立从底层基础设施到上层AI业务的全栈性能优化视角
2.为大规模模型训练提速、推理降本提供可落地的技术参考。        
现任阿里巴巴技术支持专家,6年IAAS & AI领域实践经验,聚焦于内核、操作系统、服务器虚拟化以及AI Infra相关技术,有多行业云上客户业务的全链路性能分析和优化场景落地的能力。
当代码生成遇到 3D 堆叠芯片:多智能体协作的工程化实践
楼建光
算苗科技 首席AI专家
内容简介:
算苗科技的3D TokenPU芯片是一种基于3D混合堆叠的云侧AI加速芯片,其3D分布式DRAM设计为突破“内存墙”提供了全新的技术路径,同时也带来了tile拓扑、数据放置、片上通信调度等新的软件需求。本报告将介绍使用AI agents代码生成如何帮助开发人员快速为一种新型AI加速芯片从零构建从驱动、运行时、编译器到AI框架适配整个软件栈的工程实践。        

演讲提纲:
1. 3D堆叠芯片带来全新编程挑战:拆解3D分布式DRAM芯片硬件特性、Tile Native专属编程范式,对比CUDA开发痛点,引出 AI 智能体代码生成解决方案。
2. AI代码生成全链路工程落地实践:讲解多智能体协作架构,完整覆盖芯片全栈软件构建、TDD流程融合、算子自动化生成与性能优化全流程落地经验。
3. AI 编程开发成本量化分析:拆解 AI 代码生成的 Token 开销、测试验证开销、迭代反馈循环开销,论证 3D 堆叠芯片对长期开发成本的优化逻辑。
4. 分场景AI开发效率落地效果:对比训练代码、底层基础程序等不同开发场景下,多智能体代码生成带来的工程提优成果与落地实践心得。

听众收益:
1. 深度理解3D堆叠AI芯片独特硬件架构对应的软件编程痛点,掌握面向新型专用加速芯片,用多智能体 AI 代码生成搭建完整软件栈的落地方法论。
2. 获得可复用工程经验:学会将AI Agent融入TDD开发流程、多智能体自动生成高性能硬件原生算子的实操方案,规避AI生成代码质量缺陷。
3. 建立AI软件开发成本量化评估思路,理解3D存储堆叠架构如何从底层硬件维度,长期降低大模型、AI加速芯片配套软件的研发与迭代成本。

楼建光博士于2025年9月加入算苗科技,现任首席AI科学家,负责领导公司的AI软件生态团队,致力于为算苗先进的AI芯片产品打造高性能、开放、易用的软件平台与开发生态。
加入算苗前,楼建光博士曾担任微软研究院首席研究员(Sr. Principal Research Manager),领导一支由研究员和工程师组成的团队,聚焦人工智能领域的前沿探索。其研究方向涵盖交互式数据分析机器人、自动数据理解、程序自动生成、大规模在线系统智能诊断与运维等,多项研究成果已应用于微软的各大产品之中,实现了从学术研究到产业落地的有效转化。
楼建光博士于中国科学院自动化研究所获得博士学位,师从谭铁牛院士,在机器学习、自然语言处理、人工智能以及面向软件系统的AI等领域拥有约20年的研究与应用经验,并在顶级学术会议上发表研究论文超过150篇。
通义多模态、多端GUI智能体Mobile-Agent
徐海洋
阿里巴巴-通义实验室 高级算法专家
内容简介:
随着多模态大模型和AI agent技术的快速发展,围绕Mobile、PC等端侧构建多模态GUI智能体,以进行自动化操作,成为了现在业界最热的研究应用方向之一,有望变革新的人机交互方式。我们围绕多智能体架构、复杂任务拆解、自主进化推理、GUI基础模型等技术构建整个通义多模态、多端智能体Mobile-Agent技术体系,包括多模态GUI智能体框架体系Mobile-Agent/Mobile-Agent-V2/Mobile-Agent-E、基础GUI智能体模型Mobile-Agent-v3/Mobile-Agent-v3.5等,通过仿真环境数据Scaling,Environment RL Scaling,体系化提升Agent能力等,和OpenClaw配合使用,探索相关技术在手机、电脑桌面端、车机等多个场景的应用。Mobile-Agent工作也发表在NeuIPS 2024,并获得CCL2024、2025 Best Demo,相关代码均已开源到Github (https://github.com/X-PLUG/MobileAgent)        

演讲提纲:
1. 大模型智能体背景介绍,包括GUI、Deepresearch,OpenClaw/Manus等;
2. 通义多模态、多端GUI智能体框架Mobile-Agent,包括多模态单智能体Mobile-Agent、多智能体Mobile-Agent-v2、多模态自主进化智能体Mobile-Agent-E;
3. 通义GUI Foundation Model GUI-Owl/GUI-Owl-1.5,通过仿真环境数据Scaling和真实环境配合,Environment RL Scaling支持多端训练,体系化提升GUI Agent的Long/Short Memory、Tool-Use、Multi-Agent适配能力等;
4. 通义Mobile-Agent开源应用,和OpenClaw配合使用,探索相关技术在手机、电脑桌面端、车机等多个场景的应用。

听众收益:
1. 体系化了解大模型GUI智能体;
2. 详细了解多模态GUI智能体Mobile-Agent框架体系;
3. GUI Foundation Model GUI-Owl/GUI-Owl-1.5。        
阿里通义实验室高级算法专家,负责通义Mobile-Agent、mPLUG等系列工作,包括多模态智能体Mobile-Agent、多模态大模型mPLUG/mPLUG-Owl/QwenVL,多模态文档大模型mPLUG-DocOwl等,其中 mPLUG 工作在 VQA 榜单首超人类的成绩,Mobile-Agent工作CCL2024、2025两年 Best Demo,获得多个多模态榜单第一和Best Paper。在国际顶级期刊和会议ICML/NeurIPS/ICLR/CVPR/ICCV/ACL/EMNLP等发表论文60多篇,并担任多个顶级和会议AC/PC/Reviewer,主导参与开源项目Mobile-Agent,mPLUG,AliceMind,DELTA等。
京ICP备2020039808号-4 京公网安备11011202100922号