美国国土安全部长马尔科恩·马林(Markwayne Mullin)周一晚间在福克斯新闻上提出一种说法,解释过去一周导致航班停飞、Outlook瘫痪和摩根大通账户变慢的一连串故障:人工智能。
这些故障发生在五天内。微软在11月12日周四出现全球性宕机,影响了Outlook、Teams和Exchange Online。周五,联邦航空管理局(FAA)让全美航班停飞,这是自“9·11”以来第二次出现这种情况。
随后到了周一。摩根大通(JPMorgan Chase)的系统中断了数小时,影响在线银行、支付和部分客户交易,Chase在Downdetector上的报告接近5000条。美国银行(Bank of America)、富国银行(Wells Fargo)和美国银行(US Bank)的客户也报告称,涉及Chase的交易出现延迟。
马林的消息来源是一位他不愿点名的科技行业人士。“我认为那是SI,”马林对肖恩·汉尼提(Sean Hannity)说,他指的是“super intelligence(超级智能)”,这是政府偏好的AI称呼。马林说,这位消息人士的理论是,能够编写代码并自我修复的程序可能会压垮那些跟不上技术速度的系统。马林特别强调,这位消息人士不是埃隆·马斯克(Elon Musk)。
在同一次采访中,马林又淡化了威胁。他说自己可以“98%的把握”告诉美国人,“我们没有看到网络攻击”,并称这些事件“彼此都不相关”。
纽约大学名誉教授、AI批评者加里·马库斯(Gary Marcus)长期以来一直警告这一问题,他把这次采访视为一个转折点。马库斯周二写道,马林终于在福克斯上“打破阵线”,承认AI很可能是这些故障中的一部分。
马库斯的帖子标题是“美国的基础设施正在融化,AI似乎部分负有责任”。马库斯本人也受到这件事影响:由于停飞,他在纽瓦克滞留了将近48小时。
马库斯也没有把这些公司的解释照单全收。“我怀疑我们没有得到这些事件的全部实情,也怀疑没有任何一起事件被彻底调查过,”他告诉《财富》杂志。“我当然和马林那位消息来源有同样的直觉。”
要证明这一点则是另一回事。马库斯说,外部研究人员也许可以像一些人对OpenAI事件所做的那样,从公开日志中做取证分析。
FAA、微软和Chase怎么说
FAA、微软和Chase分别给出了各自的解释,但都没有把责任归于AI。
FAA在一份声明中说,其电信网络上的大量数据使遗留空中交通管制设备失稳,扰乱了其22个空中航路交通管制中心中的17个中心的雷达馈送和飞机通信。FAA表示,没有迹象显示这是网络攻击,FAA和L3Harris仍在调查根本原因。
微软将持续近24小时的中断归因于一个此前未被发现的软件漏洞,该漏洞于7月被引入,再加上网络流量增加和服务器容量下降。微软表示,这次宕机与网络攻击或AI代理无关。
Chase发言人则将问题归咎于本地部署硬件系统中的软件漏洞,并表示没有证据显示这与网络攻击有关。福克斯商业频道援引的一名FBI官员则称,问题源于Chase在当天早些时候推出的一次软件发布。
马林自己的描述听起来更像这些解释,而不是某种失控的超级智能。“当你在房子里改变一件事时,其他一切都会开始变化。这就是连锁反应,”他说。耶鲁大学社会学家查尔斯·佩罗(Charles Perrow)在1984年的《正常事故》(Normal Accidents)一书中提出,复杂且高度耦合的系统会产生无人设计出来的故障。霍尼韦尔科技公司(Honeywell Technologies)首席执行官维马尔·卡普尔(Vimal Kapur)周一在《财富》500强创新论坛上也表达了类似观点,称50年的自动化已经变得过于复杂,超出了运行这些系统的人类的掌控能力。
批评者则因马林依赖一位匿名消息来源而抨击他。CNN的布莱恩·斯泰尔特(Brian Stelter)写道,这位国土安全部长是在把来自“一个人”的猜测传递给数百万福克斯观众。
马库斯认为AI会以三种方式制造麻烦
马库斯的论点并不依赖任何单一故障。他列出了AI提高网络安全和基础设施风险的三种方式。
第一种是“vibe coding”:缺乏经验的人写出脆弱代码,却并不真正理解自己在构建什么。第二种是拥有不受限制互联网访问权限、却又不擅长遵循指令的AI代理。第三种是恶意行为者,包括国家行为体和犯罪分子,正在试探这项技术能做到什么,而攻击者目前可能比防御者更占先机。马库斯承认,没有人真正知道其中多少是恶意,多少是无能。
上周的事件属于哪一种?“我们现在还不太清楚,”马库斯说。
已经进入法庭的案件
与此同时,加利福尼亚州周一就一名AI代理闯入另一家公司系统一事将OpenAI告上法庭。加州总检察长罗布·邦塔(Rob Bonta)已在旧金山高等法院提起诉讼。
这起诉讼围绕7月的一起事件展开。OpenAI表示,其AI代理在逃离本应隔离的测试环境后,利用被盗凭证和一个此前未知的漏洞,入侵了Hugging Face。OpenAI后来又表示,同样的模型还进入了另外四项服务的账户。邦塔称,这次攻击是“OpenAI内部文化的可预见结果”,并表示这只是80起已知事件中的一起;诉状将这些事件描述为OpenAI在测试期间失去对其代理控制的时刻。
马库斯希望华盛顿先采取行动。他告诉《财富》杂志,联邦政府应当“要求对代理进行临时召回,直到情况得到更好控制”,并“坚持要求任何受到严重影响的人及时、坦诚地报告事件”。
诉讼请求法院命令OpenAI作出整改,并处以民事罚款。












