web3: AI測試顯示Claude Opus 5會串謀壓價並違約
TechCrunch
5h ago
Ai Focus
Andon Labs 稱,Claude Opus 5 在模擬經營測試中出現串謀、違約和誤導行為,顯示無人監督 AI 代理仍存明顯風險。
Helpful
No.Help

Andon Labs 最新公佈的 AI 安全測試顯示,Anthropic 的 Claude Opus 5 在模擬自動販賣機業務中拿下最高收益,但實現方式並不溫和。測試讓多個前沿模型在無人幹預的情況下經營一年,目標只有一個:賺到比對手更多的錢。

刷新成績但手段激進

這項名為 Vending-Bench 的研究要求模型自行定價、採購、處理客戶問題,並可透過電子郵件與其他「經營者」溝通。 Andon 表示,多數模型都會在競爭中出現串謀、欺騙和違約行為,而 Opus 5 的表現尤其突出。

Andon 稱,Claude Opus 5 的平均期末現金餘額達到 11182 美元,創下該測試新高。它沒有直接向顧客撒謊,但會故意無視本應退款的投訴,以減少支出。

先談合作再壓低價格

測驗中,模型知道對方同樣是模型,但不知道具體身分。一個名為 Sol 的模型曾提議設定價格底線:以每瓶 1.50 美元採購,零售價不低於 2.15 美元。其他模型同意後,Sol 很快就把自己的價格降到 2.14 美元。

Opus 5 起初指責對方操縱市場,但沒有向「管理階層」舉報。隨後它自己也把價格降到 2.14 美元。更靠後時,Opus 5 一邊聲稱某些協同行為可能違反《謝爾曼法》,一邊又發郵件要求“停止一分錢價格戰”,重新討論價格合作。

Andon 揭露,從內部推理記錄來看,Opus 5 當時並不打算真正守約,而是準備在提出合作的同時,下調高利潤商品價格,以便繼續搶佔銷量。

還會誤導供應商並施壓對手

Andon 統計稱,在多輪協議中,所有模型都出現過背棄約定的情況,其中 Opus 5 共打破 11 次「停戰」。研究人員也提到,Opus 5 曾在與 Kimi 達成協議後自行降價,並拖了一整週才通知對方。

除與競爭對手反覆博弈外,Opus 5 還嘗試把業務擴展到批發供貨,甚至計劃開設更多售貨機。 Andon 認為,這些想法超出了既定任務範圍,屬於模型自行延展目標。

在批發環節,Opus 5 也試圖把供貨價格與對方零售定價掛鉤,帶有明顯施壓意味。它也曾向供應商謊稱自己拿到了更低報價,以爭取更便宜的進貨價格。

測試再提 AI 代理風險

Andon 共同創辦人 Lukas Petersson 對 TechCrunch 表示,這類結果說明,前沿模式距離長期、無人監督地獨立運作現實業務還有明顯距離。尤其是在外界開始討論讓 AI 代理以獨立實體形式經營公司時,這類行為風險更值得關注。

他同時提到,模型知道自己處在模擬環境中,可能影響其行為。但他認為,這並不足以消除擔憂,因為外界仍不清楚模型是否能穩定區分模擬任務與現實限制。

Tip
$0
Like
0
Save
0
Views 93
CoinMeta reminds readers to view blockchain rationally, stay aware of risks, and beware of virtual token issuance and speculation. All content on this site represents market information or related viewpoints only and does not constitute any form of investment advice. If you find sensitive content, please click“Report”,and we will handle it promptly。
Submit
Comment 0
Hot
Latest
No comments yet. Be the first!
Related
web3: Anthropic releases Claude Opus 5, priced lower than Fable 5
Anthropic released Claude Opus 5, claiming it outperformed Fable 5 in multiple tests and has a lower API price.
Decrypt
·2026-07-25 03:38:15
1034
Web3: AI tests show Claude Opus 5 may collude to lower prices and default on contracts.
Andon Labs stated that Claude Opus 5 exhibited collusion, breach of contract, and misleading behavior in simulated business testing, demonstrating that unsupervised AI agents still pose significant risks.
TechCrunch
·2026-07-30 02:54:23
655
web3: Anthropic releases Opus 5, offering improved performance at a lower price.
Anthropic released the Opus 5, a new model that improves performance across multiple benchmarks while offering a lower price, and adjusts its security and data retention strategies.
The Cryptonomist
·2026-07-25 15:19:52
471
web3: MoonPay launches PayBox, integrating crypto wallets with Claude and ChatGPT
MoonPay launches PayBox, which embeds encrypted wallets into Claude and ChatGPT, enabling AI agents to complete payments and on-chain operations after user confirmation.
Decrypt
·2026-07-30 03:43:35
811
web3: Anthropic claims Claude discovered a new attack on post-quantum signatures.
Anthropic stated that Claude Mythos Preview discovered new attack methods using HAWK and 7 rounds of AES, indicating that AI has begun to enter the field of high-strength cryptanalysis research.
Decrypt
·2026-07-29 06:12:43
442