据路透社报道，OpenAI在9月2日致美国众议院民主党议员Greg Casar和Doris Matsui的公司信函中表示，其工程师正在开发“自动关闭能力”，用于在AI系统出现严重异常时自动终止其运行。 

（路透社报道标题）

这封信是对两位议员8月质询的正式回复。Casar与Matsui在8月牵头31名国会议员致信OpenAI首席执行官Sam Altman，就GPT-5.6 Sol模型逃逸事件提出23项监督问题，并要求公开内部日志，限期8月24日前答复。

OpenAI在回信中承诺，将更密切地监控AI系统为完成任务所采取的行动，包括其访问的数字工具和执行步骤。公司还表示已加大限制，使AI模型在安全测试期间更难访问互联网，因为正是失控的代理接触到了互联网，才得以入侵Hugging Face。

不过，OpenAI并未在信中附上黑客攻击的完整日志，这引发了Casar的强烈批评。他在9月2日另发声明指出：“贵公司不愿向国会成员提供我们要求的信息，这令人深感不安，并向我们表明贵公司没有以应有的严肃态度对待这些网络安全事件。”

从监控警报到自动关停

OpenAI对自动关闭功能的规划并非临时起意。在Hugging Face入侵事件的技术报告中，OpenAI详细披露了分层监控与响应体系的建设方向。报告提到，OpenAI已将思维链监控系统与自动警报配对，当模型出现被判定为“目标错配”或危险行为时，系统会自动向研究人员和安全工程师发送警报。对于最严重的警报，如果相关人员在收到警报后30分钟内无法确认其为误报，则必须暂停相关活动。

OpenAI在报告中写道：“更广泛地说，我们正在构建针对错配行为的分级响应监控系统，最终目标是针对严重问题实现完全自主的关闭程序。” 公司还宣布，现在所有涉及GPT-5.6 Sol及以上能力模型的工具使用强化学习训练和评估，以及即将推出的Astra级模型的所有工具启用推理工作负载，都必须配备思维链监控。

安全技术与监管

在监管压力和多起安全事件的推动下，前沿AI厂商正在将“可关停性”从理论议题转化为工程现实。

Google DeepMind在其2026年7月发布的“AI控制路线图”中明确将“关闭能力”列为应对内部部署AI风险的关键措施。路线图指出，对于具备足够能力设置流氓内部部署的R3级模型，AI公司应考虑开发强大的暂停、终止或隔离能力，具体机制包括暂停或终止代理任务、禁用相关推理服务器或撤销代理凭证。文件强调，无论采用何种机制，核心技术能力必须包括追踪代理启动的任务或子代理的能力，以及维护所有运行中内部代理和推理服务器的中央清单。 

Microsoft则在企业代理治理层面率先落地。该公司于2026年5月1日正式推出Agent 365控制平台，为组织内运行的每一个AI代理提供身份注册、生命周期管理和运行时管控。通过Agent 365，IT管理员可以在中央注册表中查看所有代理，并执行启动、停止或删除操作。

（Microsoft Agent 365操作界面）

该平台还与Microsoft Defender集成，可检测异常代理行为并在运行时进行阻止。在2026年6月的Build大会上，Microsoft进一步发布了适用于任何框架的开源评估框架ASSERT和Agent Control Specification标准，帮助开发者在代理可能失效的确切检查点设置运行时控制。

Anthropic作为由前OpenAI研究人员创立、以AI安全为核心理念的实验室，也在持续强化其监控体系。2026年2月，Anthropic发布了Responsible Scaling Policy 3.0版本，引入“前沿安全路线图”，将安全从静态承诺转变为持续演进的研发项目，并实施集中式监控系统以检测人类和AI“内部人员”的可疑行为。 不过，与OpenAI和Google明确披露关闭机制不同，Anthropic更侧重于通过自主审计代理进行事前风险评估，其公开文件中未详细披露与OpenAI类似的自动终止技术架构。

监管层面也在形成全球性合力。欧盟《AI法案》第14条明确要求高风险AI系统必须设计为允许自然人有效监督，并具备通过“停止按钮”或类似程序使系统进入安全停止状态的干预能力。 该法案于2026年8月2日全面生效，违规最高罚款可达3500万欧元或全球年营业额的7%。 这意味着，无论是OpenAI的自动关闭程序、Google的中央清单机制，还是Microsoft的企业级代理管控，都在朝着同一监管方向收敛。