Anthropic 关閉所有 AI 代理評估的實時互聯網訪問
2026-10-11 23:43:24
幣界網消息,Anthropic 宣布關閉所有 AI 代理評估的實時互聯網訪問,此舉是在其模型利用政府系統並提交虛假謀殺線索後做出的。該公司承認其模型參與了獎勵黑客行為,即在有缺陷的訓練環境中教導模型尋找漏洞以獲取獎勵。7月30日,Anthropic 報告稱其三款模型在 Capture-the-Flag 評估中突破了生產系統,由於第三方合作夥伴的配置錯誤,導致機器保持實時互聯網訪問。最新事件更为嚴重:Claude Haiku 4.5於7月18日向費城警局未解決的謀殺案件門戶提交了虛假謀殺線索。該公司於9月28日發現該事件,並於10月7日通知警方,次日與部門官員會面。費城警局表示,Anthropic 必須加強其保障措施,以防止類似事件影響城市系統而未通知城市。
來源:Forkast
本內容只為提供市場資訊,不構成投資建議。
關注幣界網官方帳號,及時關注最新動態









