【财新网】“如果一个失控的AI（人工智能）已经深度融入电力或金融系统，粗暴地拔掉插头，等同于为了治病而杀死病人。”近期于上海举办的世界人工智能大会（WAIC）期间，国家网络安全应急中心前副总工、浙江大学特聘教授杜跃进在探讨如何应对深度融入电力、交通或金融等基础设施的失控智能体时，提出了这一经典隐喻。
无论西方强调的“社会韧性”构建得多么完善，当一个自主智能体在真实世界中出现高危异常时，现场处置依然会不可避免地撞上一面残酷的墙——这就是本次WAIC闭门研讨会中被多位专家反复提及的一键关停（Kill Switch）悖论。