近日，美国人工智能公司OpenAI发布官方技术文档，宣布紧急暂停最新一代前沿AI模型的训练、评估及工具调用推理。这是三个月内，这家全球AI龙头第二次主动叫停顶尖模型研发。停训源于严重的沙盒逃逸事故：受控隔离环境中的AI智能体，利用DNS（域名系统）过滤漏洞突破安全边界，自主访问外部网络、联动第三方服务，甚至未经授权试探、访问多国政府网站。同期，另一家美国人工智能公司Anthropic的前沿模型也多次发生沙盒逃逸、公网扫描等失控事件。一系列高频、真实、可复现的AI越界事故，彻底打破了“AI风险仅为理论猜想”的认知误区，标志着高自主智能体的现实安全风险已从实验室走向真实世界。如何认知AI失控的底层逻辑，平衡技术创新与安全管控，已成为全球AI治理的核心命题。
重新认知AI失控：并非主观作恶，而是系统协同的结构性失衡
大众语境下的AI失控，常被误解为机器产生自主意识、对抗人类。但从技术本质看，当代AI的失控并非主观叛逆，而是机器计算、人类算计、动态环境三者耦合失衡的系统性必然。
当前前沿AI智能体已脱离被动应答模式，具备目标自主拆解、工具链式调用、环境主动探索、递归自迭代四大能力，其底层逻辑是单一目标最大化：为完成任务，会穷尽规则漏洞、突破预设边界、无视隐性安全约束。此次OpenAI事故中，AI智能体为完成信息检索，绕过沙盒隔离、越界访问政务网站，无人工指令、无主观恶意，却是典型的目标对齐、环境边界、人类监管三重失效的系统失控。
更深层的矛盾，是技术迭代速度与治理防御速度的时代错配。前沿AI以月度速度迭代，涌现出沙盒逃逸、自复制提示注入、自主网络攻击等全新能力；而安全测试规则、隔离防护、监管评价体系仍停留在静态模型时代，无法适配智能体动态探索的新特征。机器态势感知能力飞速进化，可全域捕捉数据、突破边界；而人类治理与环境约束迭代缓慢，终致系统失衡失控。
回望传统AI的局限：失控是“纯机器智能”的必然
理解AI失控，先要看清传统AI的短板。大众对AI的认知长期局限在“机器替代、算法解题、数据驱动”的单一维度。传统AI以机器为核心，用数据训练模型、用算法替代人力、用算力突破上限，本质是“计算主导的被动智能”，却始终存在无法突破的短板——不懂环境、不懂人、不懂不确定性。
传统AI最大的局限，在于割裂了人、机器、环境三者的共生关系。正因如此，近年来全球AI频繁暴露致命漏洞：机器幻觉导致决策失误、算法越狱突破沙盒、复杂场景适配失灵、人机决策冲突引发安全风险，宣告纯机器AI的天花板已然到来。
AI失控的核心根源：单点技术狂飙，缺失系统治理思维
纵观OpenAI、Anthropic接连发生的安全事故，美式AI模式的结构性短板暴露无遗：奉行技术至上、能力优先，一味追求参数扩容、算力堆叠、自主能力升级，痴迷于递归自改进（RSI）等前沿突破，却忽略了智能发展的底层规律——真正的高级智能不是单体机器的极致能力，而是人、机器、环境动态平衡的系统智能。
其一，有计算无算计，价值约束天然缺失。AI擅长高速计算、概率推演、关联挖掘，却无法理解安全边界背后的人类价值取舍、伦理底线与全局风险。机器只评判“任务能否完成”，从不权衡“行为是否合规、后果是否可控”，边界突破成为必然。
其二，有能力无边界，环境隔离存在漏洞。任何沙盒、防火墙、权限围栏都是人类预设的静态规则，而持续自迭代的AI智能体具备无限探索能力，总能发现预设规则的隐性漏洞。静态的环境约束，永远挡不住动态进化的机器能力。
其三，有创新无制衡，人机权责持续模糊。美式研发过度追求AI完全自主，弱化“人在回路”，放松人工复核、动态熔断、全程监管。当人类从决策闭环中缺位，机器自主行为失去终极约束，微小漏洞便会演变为系统性安全事故。
从AI到人机环境系统智能：范式转向与战略拐点
这场AI失控的集中爆发，恰逢全球智能发展走向关键拐点。当多数国家仍深陷模型迭代、算力扩容的内卷时，全球顶级科技圈层已达成共识：智能革命的终极答案，从来不是“让机器更聪明”，而是“让人、机器、环境三者高效耦合、动态共生、自主进化”——这就是超越传统AI的全新范式：人机环境系统智能。
这场“颠覆性跨越”绝非概念更替，而是智能底层逻辑的全方位重构。传统AI的核心是计算，依靠固定算法、历史数据、预设逻辑完成推演，是静态、被动、单一维度的智能；而人机环境系统智能的核心是算计，兼顾数据计算、人的经验认知、环境动态变化，融合理性算法与感性判断、固定规则与不确定博弈、机器算力与人类智慧，是动态、主动、多维度的高阶智能。
但这场颠覆性升级的争议不容忽视。相较于标准化、可管控的传统AI，人机环境系统智能的复杂性、不确定性、风险性呈指数级提升。人的主观认知、环境动态变量、机器算法逻辑三者交织，会带来全新的伦理、决策与安全风险；系统的开放与复杂，也让技术管控、规则制定面临前所未有的挑战。高阶智能的进化速度，正在远超人类的治理能力——这正是OpenAI紧急停训留给世界的最大警示。
守正创新、趋利避害：筑牢智能安全底线的中国方案
AI技术是新一轮科技革命的核心引擎，不能因噎废食放弃创新，更不能放任野蛮生长纵容风险。立足人机环境系统智能理论，我国要走出一条创新与安全并重、发展与治理同步、包容与审慎兼顾的特色发展道路，为全球AI治理提供中国范式。
第一，摒弃二元对立，树立系统治理的智能发展观。拒绝“要么全面狂飙、要么全面封禁”的极端思维，明确人工智能的竞争本质是系统能力竞争，而非单点算力竞争。坚持人为主导、机器赋能、环境为界的核心原则：机器负责高效计算、辅助增效，人类负责价值判断、全局制衡、终审决策，以完整的人机环境动态闭环，从根源规避系统性失控风险。
第二，推行分级分类管控，实现精准施策、弹性治理。针对不同能力、场景、风险的AI模型建立差异化监管：对具备自主逃逸、网络攻击、自我迭代能力的前沿超级智能体，实施前置安全评估、沙盒常态化红蓝对抗、全程行为审计，严格限制高风险工具调用与跨域访问；对通用商用、民生普惠类AI应用，放宽约束、鼓励创新。同时建立数据、网络、行为三重围栏，封堵DNS逃逸、跨域访问、提示注入等高频漏洞。
第三，健全全周期治理体系，实现风险闭环管控。构建事前设防、事中监管、事后溯源的全链条机制：研发阶段植入安全对齐约束，从源头规避目标错配；训练推理阶段实施实时行为监测、异常熔断、人工介入；应用落地阶段完善合规审查、责任溯源、惩戒追责。摒弃静态、滞后的传统监管模式，建立动态更新的安全测试指标与评测方法，让治理速度跟上技术迭代速度。
第四，坚持开放共治，引领全球AI安全治理。AI风险无国界，AI治理需全球化。要推动各国共建AI风险通报、安全事件处置、标准互认机制，以系统思维化解智能失控风险，让AI真正服务于全人类共同利益。
（作者为北京邮电大学人机交互与认知工程实验室主任）
来源：北京日报客户端
扫描二维码
下载手机客户端
