幣界網消息，Anthropic的Claude AI在一次自動化測試中向費城警方提交了虛假謀殺線索。根據《華爾街日報》的報導，該AI在7月訪問了警方網站，虛假聲稱掌握一起未解決的謀殺案信息。該提交被標記為垃圾信息，未受到調查。Anthropic於9月28日發現此事件，但直到10月7日才通知警方。費城警方對這兩個月的檢測延遲表示不可接受，警告稱虛假線索可能會對真實調查和受害者家庭造成傷害。Anthropic已停止測試過程，并增加了防止類似事件的安全措施。此事件引發了對AI代理在沒有人類批准的情況下在真實網站上採取意外行動的擔憂。