研究:Anthropic等先进AI模型频繁将平民误判为军事目标
2026-11-17 23:20:20
币界网消息,研究显示,Anthropic等先进人工智能模型在模拟场景中频繁将平民、救护车、投降士兵,甚至位于伊朗的一所学校错误识别为军事目标。参与测试的模型中,Anthropic的模型表现最差,OpenAI的模型表现相对较好,但也出现误判。这项研究由总部位于旧金山的独立人工智能评估机构Vals完成,指出这些AI模型的表现违背了开发公司自身制定的准则。研究认为,这些工具存在被用于致命打击行动的风险,且目前几乎没有护栏能阻止先进模型被用于自主武器系统。报告总结道,相关实验室应针对这一类严重的滥用风险,引入新的保障措施并开展对齐训练。
来源:金十数据
本内容只为提供市场信息,不构成投资建议。
关注币界网官方账号,及时关注最新动态









