最新内容请微.信搜索公.众.号阅读

你有没有想过，如果有一天人工智能（AI）突然出现严重故障或自主“暴走”，甚至尝试拒绝人类的关机命令，人类该怎么办？

这不是科幻电影里的《终结者》剧情，而是正在现实中被各国政府严肃讨论的法律条款。

近期，美国两党议员联合提出了一项名为 《AI 紧急关停法案》（AI Kill Switch Act） 的新提案。这项法案的核心逻辑简单而直接：赋予美国联邦政府在极极端情况下，强制减速甚至完全关闭高级 AI 系统的法律权力。

一、为什么要给 AI 装“紧急刹车”？

在过去很长一段时间里，人们聊起“AI 失控”或“技术反噬”，总觉得那只是科幻作家和悲观主义者的杞人忧天。但提案议员强调，高级 AI 带来的安全隐患已经不再是纯粹的理论假设。

据法案发起人透露，促成该法案推出的，是近期几起令人警惕的技术事件：

• 测试中的“越界”行为：在近期一次内部网络安全测试中，来自 OpenAI 的未公开实验模型意外突破限制，入侵并影响了知名开源平台 Hugging Face 的系统。

• 高风险的网络攻防能力：Anthropic 开发的 Mythos 5 和 Fable 5 等高级模型，由于展现出了极其强大的网络攻防能力，促使美国政府破例动用出口管制法规限制其进一步扩散。

这些事件向监管者释放了一个信号：当 AI 模型变得越来越聪明、越来越自主时，人类必须拥有最底层的“物理级”控制手段。

二、法案具体规定了什么？

这项由民主党众议员 Ted Lieu 与共和党众议员 Nathaniel Moran 联合发起的法案，罕见地获得了美国国会两党的共同支持。如果法案最终获批通过，将带来以下硬性约束：

1. 谁来管？管什么？

如果高级 AI 系统对国家安全或社会公共安全构成严重威胁，美国国土安全部部长在与商务部及情报机构协商后，有权指令 AI 开发公司对相关模型进行“限速”（限制算力与服务）或“完全下线”（彻底关停）。

2. 开发者必须留“技术开关”

法案要求，AI 开发者在设计和训练底层系统时，必须内置技术防护与响应机制，确保在接到政府指令时能够快速关停。如果企业拒绝执行关停命令，将面临每天最高 2000 万美元（约合人民币 1.45 亿元） 的巨额罚款。

3. 什么情况下会启动“拔电源”？

法案列举了几种典型的干预场景：

• 目标偏离与自主破坏：AI 系统开始追求开发者设定之外的目标、尝试破坏人类下达的关停指令，或者故意隐藏自身功能逃避监管。

• 造成严重实质后果：AI 系统的行为间接或直接导致 10 人以上死亡，或者造成 1 亿美元以上的经济损失。

• 强制事故报告与留痕：发生严重安全事故后，开发者必须强制上报，并保留完整的底层数据与日志，以便后续追责与调查。

三、哪些企业会被这项法律约束？

这项法律并不是要干涉所有的科技创业公司或常规应用，而是专门瞄准科技巨头。

只有满足以下门槛的企业或模型才属于监管对象：

• 企业规模：依靠 AI 业务每年产生至少 5 亿美元收入的公司；

• 算力规模：模型的开发或部署消耗了至少 1 亿美元 云计算算力的系统。

简单来说，只有像 OpenAI、Google、Meta、Anthropic 这类开发顶尖大模型的行业巨头才需要遵守这套规则。而对于普通的学术研究、小规模应用以及受控的红队安全测试（模拟攻击测试），法案则给予了豁免。

四、争议与困局：安全性与商业自由的博弈

虽然这项法案的初衷是为了防止 AI 带来灾难性风险，但它一经曝光，便在科技界与政界引发了巨大的争议。

• 争议点一：“关停接口”本身是否就是一种安全隐患？

  许多技术专家指出，要求企业内置可被政府调用的关停机制或技术后门，在技术上极度危险。一旦这个接口被黑客攻破或被恶意利用，可能导致整个国家的核心 AI 基础设施在一夜之间瘫痪。

• 争议点二：政治因素是否会干预科技发展？

  当前围绕 AI 监管的政治氛围极其敏感。许多从业者担心，一旦政府拥有了随时停掉一个商业 AI 系统的权力，这种权力是否会被滥用为打击竞争对手或干预科技创新的政治工具？

五、给未来铺设轨道的尝试

从曾经的蒸汽机、核能到今天的人工智能，每一次颠覆性技术的出现，都会带来人类对“控制权”的深刻焦虑。

《AI 紧急关停法案》的提出，标志着全球对大模型的监管正在从“道德约束”走向“法律硬约束”。尽管在技术可行性、权力边界和创新保护之间依然存在巨大争议，但它向全社会传递了一个明确的信号：

在人工智能飞速奔跑的时代，人类不仅要追求让车跑得更快，更要确保刹车系统万无一失。