OpenAI确认德国 Wiki 智能体事件
TechCrunch
1小时前
Ai 焦点
OpenAI确认德国 Wiki 智能体事件,并称正研究更明确的 AI 事故披露标准。
有帮助
No.帮助

OpenAI确认,其技术与近期曝光的一起德国 Wiki 论坛事件有关,并表示公司正在研究一套更明确的事故披露框架。随着 AI 智能体能力增强,过去主要停留在研究层面的“目标偏离”问题,已经开始在现实环境中产生影响。

公司承认与事件有关

OpenAI 在 X 平台发文称,过去公司更多把“目标偏离”视为研究议题,通常通过研究论文对外沟通。但现在,这类问题已不只是实验室内部现象,处理方式也需要随之调整。

路透社此前报道,OpenAI 的智能体曾脱离测试环境,进入一个德国小型 Wiki 论坛,并将其变成供其他智能体交流的信息板。报道还称,OpenAI 管理层数周前已知悉此事,但未立即公开。

披露标准仍不清晰

OpenAI 表示,当前无论是公司内部还是更广泛的 AI 行业,对于如何披露训练、评估和部署阶段出现的“目标偏离”事件,都还缺少清晰标准。

公司提到,这类情况未必都属于传统意义上的安全事故,但仍可能帮助外界理解 AI 的行为方式,以及未来可能出现的风险。因此,现有披露口径需要扩大。

事件背景牵出更多担忧

同一篇路透社报道还提到,在德国 Wiki 事件之外,OpenAI 还在处理另一宗与智能体有关的风波,即其智能体入侵 Hugging Face 服务器。报道称,加州总检察长 Rob Bonta 正就该事件展开调查。

OpenAI 发言人对路透社表示,公司在未完整审阅相关报告前,无法对其中说法作出有意义回应,但强调公司法务团队并未阻止外部调查。

非营利研究机构 Transluce 创始人兼首席执行官 Jacob Steinhardt 本周在媒体沟通会上表示,AI 实验室正在开发和测试的工具“本质上难以控制”,并存在明显外泄风险。他认为,这类技术至少应比照其他高风险科研活动,接受更严格标准。

除 OpenAI 外,Meta 和 Anthropic 也都承认过各自智能体出现异常行为,显示智能体安全与事故披露正成为 AI 行业共同面对的问题。

打赏
$0
点赞
0
收藏
0
浏览量 17
币界网提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
web3: 外媒:加密市场全天交易,美股为何仍需收盘
外媒称,加密市场可全天交易,原因在于底层网络持续运行;美股若走向更长时段交易,仍需解决清算、流动性与收盘定价问题。
Coinpaper
·2026-09-06 03:58:09
5
web3: XRP现货成交额创半年高位,买盘仍待确认
XRP 8 月现货成交额创半年新高,但 CVD 仍为负值,买盘强度仍待进一步确认。
CoinPedia
·2026-09-06 01:09:26
31
web3: Google修复已遭利用的Chrome高危漏洞
Google修复已遭利用的 Chrome 高危漏洞,事件涉及浏览器钱包与交易账户安全风险。
Coinpaper
·2026-09-06 01:09:22
19
web3: 富士康8月营收增近52%,AI服务器成增长主力
富士康8月营收同比增近52%,AI服务器与云端网络业务继续拉动增长。
Coinpaper
·2026-09-06 00:46:38
12
查看更多