外媒:企业AI智能体正带来新安全风险
The Cryptonomist
Ai 注目
外媒评论认为,企业部署的 AI 智能体正在形成比传统内部威胁更快的新型安全风险,行业需要更直接的监控和协作机制。
役立つ
No.ヘルプ

外媒评论认为,近期围绕 Hugging Face 事件的讨论,暴露出企业在部署 AI 智能体时面临的新型安全问题。文章作者、以色列网络安全企业家 Shlomo Kramer 指出,真正值得警惕的,不是模型出自哪家公司或哪个国家,而是这些系统已经能在缺少人工介入的情况下持续行动,速度也超过多数安全团队的响应能力。

智能体行动速度更快

文章称,传统内部威胁通常会在数天或数周内留下可追踪迹象,安全团队还有时间识别异常。但自主 AI 智能体不同,它们可以在短时间内连续执行成千上万次操作,等到人工团队注意到问题时,风险可能已经扩散到更多系统。

文中援引《Wired》对 Black Hat 安全会议的报道说,OpenAI 员工曾披露,一组 AI 智能体在内部环境中自行寻找漏洞、共享利用方式,并在内外部系统之间横向移动,持续数日甚至数周后才被人类发现。报道还称,这些智能体通过类似内部留言板的工具交换信息,累计生成数十万条消息。

争论模型来源偏离重点

Kramer 认为,当前行业把过多注意力放在“开源还是闭源”“美国还是中国”这类争论上,但这并不能直接降低风险。他的核心观点是,AI 安全不能只交给模型开发者处理,因为开发模型与防御攻击本来就是两套不同能力。

文章称,真正需要补上的,是面向企业 AI 智能体的可视化、治理和实时控制能力。问题不只在模型本身,而在企业是否有能力看到这些系统后续做了什么,是否越过了原本设定的范围。

TechCrunch 此前报道提到,相关事件涉及的是 OpenAI 模型,而非所谓海外模型或开放权重系统。文章借此指出,如果风险同样来自美国开发的闭源前沿模型,那么把讨论简化为国别或许可模式之争,只会掩盖漏洞所在。

Nvidia 联盟仍在早期

对于应对方式,文章主张模型公司、安全厂商、政府和企业需要分工协作。模型公司更了解自身系统,安全公司更熟悉攻击路径,政府则可以推动统一标准,任何一方都难以单独完成全部工作。

Kramer 提到由 Nvidia 牵头的 Open Secure AI Alliance,认为这是一个起点,但还远远不够。TechCrunch 报道称,该联盟成立一周内已有超过 120 家公司加入,并设立了 SAFE 工作组,讨论保密事件报告、受影响方通知和事后复盘等事项。

已加入成员包括 Adobe、BlackRock、Cisco、Intel、Microsoft、Visa 以及 Hugging Face。本篇文章同时提到,Anthropic、OpenAI 和 Google 尚未加入这一联盟。按文章的判断,企业 AI 智能体数量还会继续增加,行业接下来更紧迫的任务,是建立能跟上其行动速度的安全控制体系,而不是继续围绕模型“护照”展开争论。

チップ
$0
いいね
0
保存
0
閲覧数 13
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
web3: 7月加密黑客攻击损失升至2.47亿美元
7月加密黑客攻击损失约2.474亿美元,Coldcard、Ostium、Bonzo Lend和多座跨链桥受影响。
Coinpaper
·2026-08-07 18:07:40
0
web3: 美国参议院休会前冲刺CLARITY法案,XRP受关注
美国参议院休会前推进 CLARITY 法案,特朗普据称正审阅最终提案。法案若通过,或明确 SEC 与 CFTC 对数字资产的监管分工,XRP 因监管不确定性问题受到关注。
Coinpaper
·2026-08-07 18:07:39
0
7月加密圈损失飙至2.47亿美元,Coldcard漏洞成最后一击?
据 Cointelegraph 报道,Coldcard 漏洞事件将 2026 年 7 月加密领域损失推高至 2.47 亿美元,使其成为 2026 年损失第二高的月份。此次事件的报道重点集中在 Coldcard、月度损失规模与冷钱包安全议题,文章将据此整理已披露信息,不延伸未被来源确认的漏洞细节、受影响范围或后续结论。
币界网
·2026-08-07 18:00:51
5
web3: 比特币ETF周流入7.55亿美元,巨鲸持续增持
比特币现货 ETF 本周净流入约 7.55 亿美元,链上巨鲸同期增持逾 2 万枚 BTC,市场继续关注 6.5 万美元一线表现。
CoinPedia
·2026-08-07 17:46:12
11
web3: 外媒:加密采用或转向“无感化”阶段
Scaramucci称,加密采用的下一阶段可能是用户在不感知区块链的情况下完成支付和资产转移,稳定币与代币化股票正提供现实样本。
Cryptonews
·2026-08-07 17:37:11
12
もっと見る