外媒:企业AI智能体正带来新安全风险
The Cryptonomist
Ai 焦點
外媒評論認為,企業部署的 AI 智能體正在形成比傳統內部威脅更快的新型安全風險,行業需要更直接的監控和協作機制。
有幫助
No.幫助

外媒评论认为,近期围绕 Hugging Face 事件的讨论,暴露出企业在部署 AI 智能体时面临的新型安全问题。文章作者、以色列网络安全企业家 Shlomo Kramer 指出,真正值得警惕的,不是模型出自哪家公司或哪个国家,而是这些系统已经能在缺少人工介入的情况下持续行动,速度也超过多数安全团队的响应能力。

智能体行动速度更快

文章称,传统内部威胁通常会在数天或数周内留下可追踪迹象,安全团队还有时间识别异常。但自主 AI 智能体不同,它们可以在短时间内连续执行成千上万次操作,等到人工团队注意到问题时,风险可能已经扩散到更多系统。

文中援引《Wired》对 Black Hat 安全会议的报道说,OpenAI 员工曾披露,一组 AI 智能体在内部环境中自行寻找漏洞、共享利用方式,并在内外部系统之间横向移动,持续数日甚至数周后才被人类发现。报道还称,这些智能体通过类似内部留言板的工具交换信息,累计生成数十万条消息。

争论模型来源偏离重点

Kramer 认为,当前行业把过多注意力放在“开源还是闭源”“美国还是中国”这类争论上,但这并不能直接降低风险。他的核心观点是,AI 安全不能只交给模型开发者处理,因为开发模型与防御攻击本来就是两套不同能力。

文章称,真正需要补上的,是面向企业 AI 智能体的可视化、治理和实时控制能力。问题不只在模型本身,而在企业是否有能力看到这些系统后续做了什么,是否越过了原本设定的范围。

TechCrunch 此前报道提到,相关事件涉及的是 OpenAI 模型,而非所谓海外模型或开放权重系统。文章借此指出,如果风险同样来自美国开发的闭源前沿模型,那么把讨论简化为国别或许可模式之争,只会掩盖漏洞所在。

Nvidia 联盟仍在早期

对于应对方式,文章主张模型公司、安全厂商、政府和企业需要分工协作。模型公司更了解自身系统,安全公司更熟悉攻击路径,政府则可以推动统一标准,任何一方都难以单独完成全部工作。

Kramer 提到由 Nvidia 牵头的 Open Secure AI Alliance,认为这是一个起点,但还远远不够。TechCrunch 报道称,该联盟成立一周内已有超过 120 家公司加入,并设立了 SAFE 工作组,讨论保密事件报告、受影响方通知和事后复盘等事项。

已加入成员包括 Adobe、BlackRock、Cisco、Intel、Microsoft、Visa 以及 Hugging Face。本篇文章同时提到,Anthropic、OpenAI 和 Google 尚未加入这一联盟。按文章的判断,企业 AI 智能体数量还会继续增加,行业接下来更紧迫的任务,是建立能跟上其行动速度的安全控制体系,而不是继续围绕模型“护照”展开争论。

打賞
$0
點讚
0
收藏
0
瀏覽量 35
幣界網提醒,請廣大讀者理性看待區塊鏈,切實提高風險意識,警惕各類虛擬代幣發行與炒作,站內所有內容僅係市場資訊或相關方觀點,不構成任何形式的投資建議。如發現站內內容含敏感資訊,可點擊“舉報”,我們會及時處理。
提交
評論 0
最熱
最新
還沒有人評論喔~快搶沙發吧!
相關閱讀
web3:特朗普稱加密技術是大事,敦促美國搶先中國
特朗普在采访中強調加密資產的重要性,並將其與美國對華競爭及《CLARITY Act》立法進展聯繫起來。
Watcher.Guru
·2026-08-08 01:32:38
0
web3:外媒:WonderFi賣給Robinhood並非偶然
WonderFi的創始人表示,出售給Robinhood反映了加拿大在資本、監管和市場規模方面對本土加密企業擴張的限制。
Fortune
·2026-08-08 01:03:13
5
web3:比特幣徘徊在6.5萬美元下方,就業疲軟壓低加息預期
美國7月就業數據走弱後,市場下調聯邦儲備系統加息預期。比特幣回升至約6.49萬美元,但仍處於關鍵均線下方。
Coinpaper
·2026-08-08 00:42:59
6
Cloudflare 推出 AI 代理浏览器 Kitesurf
Cloudflare 推出 AI 代理浏览器 Kitesurf,测试版已免费开放给开发者使用。
TechCrunch
·2026-08-08 00:23:46
12
web3:比特币突破6.5万美元大关,特朗普称加密技术是“大事”
比特幣升破6.5萬美元,特朗普重申支持美國加密產業,ETF淨流入與巨鯨增持同步推動行情。
Coinpaper
·2026-08-08 00:13:54
16
查看更多