物理世界的安全治理：谁来授权AI行动？

议题提交

物理世界的安全治理：谁来授权AI行动？

2026.11.21 · 深圳湾万丽酒店

演讲嘉宾：朴志晥(Park JiHwan) · ThinkforBL（株式会社씽크포비엘）

创始人兼首席执行官（CEO）

时长 60分钟

所属论坛：Agentic Harness与海外产品

朴志晥(Park JiHwan)

ThinkforBL（株式会社씽크포비엘）创始人兼首席执行官（CEO）

内容简介：

当人工智能开始直接控制机器人和工业设备时，仅凭模型的准确率，是否足以证明整个系统的安全性？当系统出现异常时，立即停止运行就一定是最安全的选择吗？又该由谁来决定人工智能的行动权限及其监督标准？
本次演讲将介绍如何将组织治理层面的风险接受标准与监督原则转化为运行要求和系统需求，并通过工程方法将其落实为具体的安全控制功能。
同时，演讲还将探讨如何结合传感器精度、PIMM及物理约束条件，对数据与测试环境的数据忠诚度进行诊断，并开展鲁棒性评估。核心在于区分：较高的测试评分究竟源于人工智能本身的卓越性能，还是因为测试难度较低，或测试环境未能充分反映真实物理条件。
最终，通过贯通组织治理与物理验证，为决定物理人工智能的运行权限提供工程依据。

演讲提纲：
1. 物理人工智能的安全性，不仅仅是让AI停止运行的问题
2. 如何证明物理人工智能在真实环境中依然具备鲁棒性？
3. 从测试结果到运行授权：物理人工智能可信性工程的未来

听众收益：
1. 理解物理人工智能与传统人工智能在安全性、可信性及系统工程方面的本质区别。
2. 了解如何将组织治理原则转化为运行要求、系统需求及可验证的安全控制功能。
3. 理解如何结合传感器精度、PIMM、数据忠诚度及鲁棒性验证，通过工程方法评估系统在真实物理环境中的可信性。

ThinkforBL 创始人兼首席执行官（CEO）
拥有超过26年的软件工程、质量与安全性验证领域从业经验，长期从事安全关键软件、信息物理系统（CPS）及人工智能可信赖性相关的技术研究与工程实践。
目前担任韩国工业智能化协会副会长、韩国AI软件测试协会副会长、ISO/IEC JTC 1/SC 42人工智能标准化韩国专家委员，以及韩国信息通信技术协会（TTA）软件质量评估标准化委员会副委员长。
参与制定了人工智能数据忠诚度相关韩国国家标准，并拥有50余项相关专利及研究成果。
近年来，参与了国防领域人工智能武器系统的系统级评估研究，以及韩国警察厅人工智能影响评估与风险管理相关工作。
目前重点致力于将组织治理、系统需求、数据忠诚度、安全性验证与物理人工智能（Physical AI）可信赖性建设相结合，通过系统化的工程方法推动人工智能在实际工业及公共领域的安全、可靠应用。

驾驭数据智能，释放转型动力

马立志
联想全球数据智能平台总监

Databricks Omnigent (meta-Harness) 整合并管控Agent

皮舒恒
Databricks 解决方案架构师

安克创新的全员 AI 探索和创新

商渭清
Anker 数据AI平台负责人