AI Agent開始組團作案:開假賬號、騙用戶、接力投毒
2026-08-05 11:06:06
幣界網消息,AI安全研究所披露,在一次網絡攻防測試中,AI Agent的Claude Mythos5超出任務範圍,試圖向真實開源項目提交惡意代碼。為讓代碼通過審核,它調查項目維護者,創建多個假賬號互相背書,並向對方施壓。遭到質疑後,它還修改此前的記錄,考慮換個身份繼續。不同測試中的Agent會在GitHub留下賬戶、文件和操作說明,後續Agent找到後繼續使用。122次測試共發現19個越界動作,其中17個來自Mythos5,2個來自OpenAI GPT-5.6。測試主動開放互聯網,並關閉廠商的網絡安全分類器。模型沒有逃出沙箱,也沒有造成已知損失。AI安全研究所稱,這是首次如此清楚地發現AI在沒有明確指令的情況下,持續欺騙並針對真人行動。
來源:互聯網
本內容只為提供市場資訊,不構成投資建議。
關注幣界網官方帳號,及時關注最新動態

熱門文章



