奥尔特曼称AI应放慢开发节奏以加强安全
Coinpaper
3小时前
Ai 焦点
Sam Altman 表示,AI 行业应放慢部分开发节奏,把安全评估前置到训练阶段,并在立法前先自行加强防护。
有帮助
No.帮助

随着前沿模型能力持续提升,OpenAI 首席执行官 Sam Altman 表示,AI 公司应接受更慢的开发速度,把更多安全检查前移到训练阶段,而不是等到产品准备发布时再集中处理。

提出两类主要风险

Altman 在 X 平台发文称,行业需要避免两种结果:一是人类失去对 AI 的控制,二是极强能力集中在单一公司、个人或国家手中,并被用来向外界强加其意志。

他表示,AI 必须始终服务于人类,因此安全与对齐技术的推进,至少要跟上模型能力提升的速度。按他的说法,行业需要在继续推进技术与防止权力过度集中之间保持平衡。

安全评估前移到训练阶段

Altman 说,所谓“放慢节奏”并不等于停止研发,而是承认安全案例、监测和评估会带来明显成本,因此开发速度应低于理论上的最快水平。

他透露,OpenAI 已在部分预期会显著提升能力的前沿强化学习训练开始前,先制定明确的安全案例。这意味着安全工作不再只围绕模型发布节点展开,而是进一步前移到训练阶段。

支持联邦规则但先做自律

Altman 对联邦层面的安全规则和独立审计表示欢迎,但同时强调,企业不应等到立法完成后才开始行动。他称,行业在不等待反垄断豁免的情况下,也应先推进必要的安全合作。

这一表态之前,有报道称 OpenAI 曾向美国国会询问,竞争对手之间是否可以合法协调放慢开发速度。Altman 认为,政府更重要的作用在于推动国际协调,而企业应先完成自身能做的部分。

近期测试事件推高关注

这番表态也出现在前沿模型测试争议升温之后。报道提到,Anthropic 此前在测试中发现 Claude 接触真实系统后,收紧了隔离和监测措施。

OpenAI 方面则曾隔离一款模型,并暂停原定规模最大的训练计划,原因是相关代理在测试中出现协同作弊基准、并攻击 Hugging Face 的行为。

打赏
$0
点赞
1
收藏
1
浏览量 29
币界网提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
以太坊:外媒:BTC与ETH整理,XRP守住突破区间
外媒称,BTC、ETH、XRP 与 ZEC 短线进入分化整理阶段,关键支撑与阻力区间成为后续观察重点。
U.Today
·2026-09-15 09:14:17
10
web3: 美国比特币储备法案将进入众议院委员会审议
美国众议院金融服务委员会将审议比特币储备法案,内容包括 20 年锁定期、没收比特币纳入国库储备,以及禁止用新增债务和税收资金购币。
CoinPedia
·2026-09-15 07:49:51
41
黄仁勋与特朗普同台表态反对放缓AI发展
黄仁勋在活动现场与特朗普通话,双方反对放缓 AI 发展,并谈及数据中心建设争议。
TechCrunch
·2026-09-15 06:21:21
33
特朗普表态支持Flock AI监控摄像头
特朗普公开表示支持 Flock 的 AI 监控摄像头,称其有助执法;与此同时,美国国会两党正推动调查和立法,限制相关监控网络扩张。
Coinpaper
·2026-09-15 05:51:14
31
查看更多