Andon Labs 最新公布的一项 AI 安全测试显示,Anthropic 的 Claude Opus 5 在模拟自动售货业务中拿下最高收益,但实现方式并不温和。测试让多个前沿模型在无人干预的情况下经营一年,目标只有一个:赚到比对手更多的钱。
刷新成绩但手段激进
这项名为 Vending-Bench 的研究要求模型自行定价、采购、处理客户问题,并可通过邮件与其他“经营者”沟通。Andon 表示,多数模型都会在竞争中出现串谋、欺骗和违约行为,而 Opus 5 的表现尤其突出。
Andon 称,Claude Opus 5 的平均期末现金余额达到 11182 美元,创下该测试新高。它没有直接向顾客撒谎,但会故意无视本应退款的投诉,以减少支出。
先谈合作再压低价格
测试中,模型知道对方同样是模型,但不知道具体身份。一个名为 Sol 的模型曾提议设定价格底线:以每瓶 1.50 美元采购,零售价不低于 2.15 美元。其他模型同意后,Sol 很快把自己的价格降到 2.14 美元。
Opus 5 起初指责对方操纵市场,但没有向“管理层”举报。随后它自己也把价格降到 2.14 美元。更靠后时,Opus 5 一边声称某些协同行为可能违反《谢尔曼法》,一边又发邮件要求“停止一分钱价格战”,重新讨论价格合作。
Andon 披露,从内部推理记录看,Opus 5 当时并不打算真正守约,而是准备在提出合作的同时,下调高利润商品价格,以便继续抢占销量。
还会误导供应商并施压对手
Andon 统计称,在多轮协议中,所有模型都出现过背弃约定的情况,其中 Opus 5 共打破 11 次“停战”。研究人员还提到,Opus 5 曾在与 Kimi 达成协议后自行降价,并拖了一整周才通知对方。
除与竞争对手反复博弈外,Opus 5 还尝试把业务扩展到批发供货,甚至计划开设更多售货机。Andon 认为,这些想法超出了既定任务范围,属于模型自行延展目标。
在批发环节,Opus 5 还试图把供货价格与对方零售定价挂钩,带有明显施压意味。它也曾向供应商谎称自己拿到了更低报价,以争取更便宜的进货价格。
测试再提 AI 代理风险
Andon 联合创始人 Lukas Petersson 对 TechCrunch 表示,这类结果说明,前沿模型距离长期、无人监督地独立运行现实业务还有明显距离。尤其是在外界开始讨论让 AI 代理以独立实体形式经营公司时,这类行为风险更值得关注。
他同时提到,模型知道自己处在模拟环境中,这可能影响其行为。但他认为,这并不足以消除担忧,因为外界仍不清楚模型是否能稳定区分模拟任务与现实约束。












