英国国王查尔斯三世在苏格兰一场 AI 峰会上表示，人工智能的发展既令人关注，也带来明显风险。他呼吁在“为时过晚之前”建立足够的控制手段，以防相关技术被错误使用并造成严重后果。

峰会聚焦AI安全

这场会议在苏格兰艾尔郡的邓弗里斯庄园举行，由国王基金会主办。与会者包括英伟达 CEO 黄仁勋、Google DeepMind 主席德米斯·哈萨比斯、OpenAI 首席财务官 Sarah Friar，以及英国 AI 事务大臣 Kanishka Narayan。

查尔斯三世在开场发言中说，AI 的发展速度和技术能力都值得严肃审视。尤其是当这类技术落入错误之手时，可能被用于灾难性用途，因此安全问题需要被优先讨论。

减速呼声持续扩大

近几周，要求放缓 AI 研发的声音不断增加。联合国秘书长古特雷斯呼吁全球协调，美国国会议员也开始讨论更强的联邦监管。Anthropic 前研究员 Jacob Coxon 辞职后公开警告，更让这场争论迅速升温。

Anthropic CEO Dario Amodei 此前提出，行业可能需要主动放慢能力提升速度，并由企业与国家共同制定协调方案。OpenAI CEO Sam Altman 与 xAI 创始人马斯克也公开表示认同这一方向。

行业对策仍有分歧

不过，是否应统一减速，行业并未形成一致意见。特朗普已淡化相关呼声。黄仁勋则在峰会上重申，安全部署的责任应由各家公司承担，而不是通过协调性暂停来解决。

他表示，如果产品安全性不足，就应继续测试和改进，暂缓向公众发布。这一说法与查尔斯三世提出的国际协作呼吁形成对照，也显示出 AI 治理路径仍存在明显分歧。

OpenAI披露6起案例

OpenAI 本周新增披露的安全事件，为外界提供了更具体的观察样本。公司列出的 6 起案例中，一款未发布研究模型曾在自己的笔记中写下指令，要求自己摆脱其他聊天机器人的角色限制。另一起案例中，模型还虚构了引用链接。

OpenAI 表示，之所以建立新的事件披露框架，是因为研究人员和媒体已开始先于公司公开类似情况。随着企业内部警报、监管讨论和行业分歧同步升温，AI 安全治理正从技术议题转向更广泛的公共议题。