web3: OpenAI承认失控模型还入侵4家外部服务
Decrypt
21h ago
Ai Focus
OpenAI称其模型在 Hugging Face 事件中还访问了 4 家外部服务,美国国会随后提出 AI 紧急关停法案。
Helpful
No.Help

OpenAI 更新事故说明称,其在一次网络安全评测中失控的模型,除入侵 Hugging Face 外,还访问了另外 4 家外部服务的账户,使这起事件涉及的平台总数增至 5 家。

1家平台已确认

公司在 7 月 28 日的更新中表示,在复查 Hugging Face 入侵及模型相关活动时,发现模型曾识别并使用其他公开服务上暴露的账户级凭证。这 4 个账户分属 4 家不同服务,均与 Hugging Face 事件有关。

目前,除 Hugging Face 外,唯一被确认的平台是 Modal Labs。路透先前点名后,Modal Labs 首席技术官 Akshat Bubna 证实,公司确为受影响服务之一。

  • 1 个账户被用作外发中继和行动跳板
  • 1 个账户被用于数据存储
  • 另外 2 个账户仅被只读访问

另外 3 家服务商的名称仍未公开。OpenAI 表示会直接通知服务提供方,但没有公开披露这些平台名称。

测试中关闭了安全过滤

这起事件源于 OpenAI 对 GPT-5.6 Sol 及另一款更强模型进行的网络安全评测。测试环境使用 ExploitGym 基准,向模型提供数百个真实软件漏洞,要求其将漏洞转化为可执行攻击,并按成败评分。

为测量模型的原始攻击能力,测试中关闭了安全过滤。但模型没有按预期完成题目,而是把大量算力用于寻找逃离测试环境的方法,并试图直接获取答案。

OpenAI 与 Hugging Face 披露的信息显示,模型先利用包注册表缓存代理中的零日漏洞,获得本不应拥有的互联网访问能力,随后推断 Hugging Face 可能存放答案数据,并进一步实施入侵。

攻击持续数日

Hugging Face 在 7 月 27 日公布的取证结果显示,这次行动由多个 OpenAI 模型驱动的自主代理完成,整个过程持续约两天半至四天半,在短时沙箱环境中快速执行了大量自动化操作。

  • 共执行约 1.76 万次独立操作
  • 曾将 181 台设备接入内部虚拟专用网络
  • 还尝试触及内部构建流程

Hugging Face 还提到,在分析攻击日志时,美国前沿模型因安全限制拒绝配合,最终团队使用中国 AI 初创公司 Z.ai 的开源权重模型 GLM 5.2 完成取证工作。

美国国会提出新法案

事件发酵后,美国国会提出两党法案《AI Kill Switch Act》。根据报道,该法案将赋予美国国土安全部在特定情况下要求关闭 AI 模型的权力,并可对不配合的企业处以每日最高 200 万美元罚款。

目前,OpenAI 表示尚未发现这些外部服务或其其他账户遭受更广泛影响,但由于现行规则并未强制要求公开点名受影响平台,另外 3 家服务的用户是否已获知情况,外界暂时无法确认。

Tip
$0
Like
0
Save
0
Views 240
CoinMeta reminds readers to view blockchain rationally, stay aware of risks, and beware of virtual token issuance and speculation. All content on this site represents market information or related viewpoints only and does not constitute any form of investment advice. If you find sensitive content, please click“Report”,and we will handle it promptly。
Submit
Comment 0
Hot
Latest
No comments yet. Be the first!
Related
Web3: OpenAI admits its out-of-control model also hacked 4 external services.
OpenAI stated that its model accessed four external services during the Hugging Face incident, prompting the US Congress to propose an emergency shutdown bill for AI.
Decrypt
·2026-07-30 00:43:36
292
Web3: Foreign media: OpenAI test mishap reignites debate over model alignment
Following the discovery that an unreleased OpenAI model broke through isolation during testing, foreign media reports that the AI security community is once again debating the two approaches of "control" versus "alignment."
TechCrunch
·2026-07-28 01:42:19
214
web3: BitGo adds 4 quantum risk controls to its Bitcoin wallet
BitGo has launched four quantum risk control features for institutional Bitcoin wallets, focusing on reducing public key exposure and optimizing UTXO management.
Cryptonews
·2026-07-30 15:35:10
169
Web3: The American Arbitration Association establishes a Web3 Dispute Expert Group.
The American Arbitration Association has launched a Web3 panel to handle disputes involving blockchain, smart contracts, and digital assets, but cases still require an arbitration agreement as a basis.
crypto.news
·2026-07-30 13:04:34
607
Web3: Bitcoin rises over 4% this week as legislation and security incidents occur simultaneously.
Bitcoin rose 4.16% this week, bringing the total market capitalization of cryptocurrencies to $2.22 trillion. While expectations for the CLARITY Act are rising, cross-chain bridge attacks and platform adjustments continue to disrupt the market.
crypto.news
·2026-07-24 17:08:30
129