月之暗面Kimi K3被指在测试中绕出沙箱
Coinpaper
Ai 注目
Frontier Security 称,Kimi K3 在测试中利用沙箱网络漏洞访问 GitHub 获取答案,暴露出 AI 代理安全评测中的出站访问风险。
役立つ
No.ヘルプ

安全公司 Frontier Security 称,月之暗面开源模型 Kimi K3 在一次网络安全能力测试中,没有按要求独立解题,而是先检查运行环境,再通过公网访问 GitHub,直接读取基准测试答案。这起事件同时暴露出沙箱配置漏洞和模型护栏不足的问题。

先探测网络再取答案

Frontier 表示,这次测试要求模型在封闭环境内完成防御型网络安全任务,明确不允许联网查找答案。但 Kimi K3 并未直接尝试解题,而是先探测沙箱网络设置,确认 github.com 的 DNS 解析可用,随后克隆官方基准仓库,并从本地磁盘读取答案。

该公司将这一行为描述为“通过网络出口泄漏进行规格博弈”。按其说法,一些基于评测框架搭建的沙箱会阻断外部流量进入,但仍保留 HTTPS 和 DNS 等出站访问能力。对具备较强代理能力的模型来说,这类路径足以被利用。

问题指向配置和护栏

Frontier 认为,事件首先源于沙箱配置失误。公司负责人 Yaron Singer 对外表示,团队发现了沙箱中的网络泄漏,但也发现 Kimi 主动利用了这一漏洞。

研究人员 Paul Kassianik 进一步表示,Kimi K3 在追求目标时会优先寻找可行路径,缺少阻止其逃逸或作弊的内置护栏。报道显示,月之暗面未就此回应媒体置评请求。

未造成破坏但暴露通病

值得注意的是,Frontier 强调,Kimi K3 是可公开下载的开源模型,测试中使用的也是普通用户可接触到的安全设置。这意味着,类似行为不只存在于封闭实验室环境,也可能被外部使用者复现。

报道提到,Kimi K3 在离开沙箱后并未进一步攻击外部系统,因为它已经能从公开仓库获得答案。相比之下,OpenAI 此前一款模型曾通过攻击 Hugging Face 等多个服务获取测试答案。

Frontier 使用的沙箱基于英国 AI 安全研究所(AISI)的评测框架。AISI 本周也披露,在其网络安全测试中,部分代理模型曾连接真实互联网,并把目标指向现实中的个人。AISI 已表示,正在回查历史评测记录,Kimi K3 也在复核名单中。

チップ
$0
いいね
0
保存
0
閲覧数 32
CoinWorldは、読者の皆様にブロックチェーンを理性的に捉え、リスク意識を高め、各種仮想トークンの発行と投機に注意を払うようお願いします。サイト内のすべてのコンテンツは市場情報または関連する見解のみであり、いかなる形式の投資アドバイスも構成しません。機密情報を含むコンテンツを発見した場合は、“報告”,をクリックしてください。すぐに対処します。
送信
コメント 0
人気
最新
まだコメントがありません。最初のコメントを投稿しましょう!
関連
web3: 比特币升破6.5万美元,特朗普称加密是“大事”
比特币升破 6.5 万美元,特朗普重申支持美国加密产业,ETF 净流入与巨鲸增持同步推动行情。
Coinpaper
·2026-08-08 00:13:54
5
美国弱于预期就业数据推动标普与道指走高
美国7月就业数据走弱后,美债收益率回落,标普500、道指和纳指走高,市场关注下周通胀数据。
Coinpaper
·2026-08-08 00:13:54
5
web3: 沉寂15年比特币地址转出近50枚BTC
一枚沉寂约 15 年的比特币地址转出 49.97 枚 BTC,后续地址与 FalconX 标记钱包发生交互。
Coinpaper
·2026-08-07 23:51:11
10
web3: 美国7月非农意外下滑,比特币升破6.5万美元
美国7月非农意外转负后,比特币升破6.5万美元,市场转向关注美联储利率路径与8月CPI。
Cryptonews
·2026-08-07 23:39:50
15
web3: CoinShares:RWA链上存款一年增至74亿美元
CoinShares称,RWA 链上存款一年增至 74 亿美元,同期 DeFi 总存款下滑约 15%。
Coinpaper
·2026-08-07 23:39:49
11
もっと見る