币界网消息，Anthropic在11月2日更新的IPO招股书中警告，AI可能很快跨过“递归自我改进”(RSI)相关的关键门槛，导致AI研发速度大幅加快。过去曾出现未能及时察觉研发进步显著加速的情况。目前，Claude已参与编写代码、运行实验和处理训练数据，帮助开发更强的下一代模型。新模型又能反过来加快后续研发，形成不断提速的循环。根据Anthropic的安全政策，触及这一关键门槛有两种情况：AI能以相近成本完成整个AI研究团队的工作，或让AI技术进步速度至少翻倍，将原本需要两年取得的进步压缩到一年。随着AI研发的深入，模型能力可能增长得比安全评测、对齐研究和防护措施的更新还快。Anthropic目前尚未认定任何现有模型达到这一水平，此次预警主要基于内部估算和对未来模型的预测，正在考虑修改安全政策，确保关键研发过程仍由人类监督和控制。