隨著 AI 模型的能力持續提升，矽谷內部圍繞「研究人員一方面警告風險、一方面繼續推進開發」的爭論再次升溫。外媒稱，這輪討論的導火線之一，是 OpenAI 的首席財務官 Sarah Friar 在高盛科技會議上提到，大模型已經可以訓練更小的模型，從而降低訓練成本。
模型能力提升引发擔憂
文章認為，這類進展之所以引起關注，不僅是因為成本下降，更因為它被一些研究人員視為「遞歸式自我改進」的早期信號。按照這種理解，AI系統未來可能會更快地推動下一代系統的出現，模型能力的提升節奏也可能隨之加快。
OpenAI與Anthropic的態度發酵
近期，Anthropic 的科學負責人 Evan Hubinger 在 X 上表示，他認為 AI 在未來十年內造成“人類滅絕級後果”的概率超過 10%。隨後，Anthropic 和 OpenAI 的其他員工也參與了討論，相關言論很快在矽谷引發爭議。
文章提到，這種說法與華爾街的主流觀點明顯不同。在高盛會議現場，投資人更關注模型能力提升帶來的商業機會。Altimeter Capital創始人Brad Gerstner直接否認“AI會殺死人類”的說法，稱這種判斷站不住腳。
外媒歸納三類原因
外媒稱，第一類原因是商業激勵。OpenAI和Anthropic都依賴於更強大的模型來擴大產品銷售和收入規模，因此即便部分研究人員對風險感到不安，企業整體仍會繼續推進開發。
第二類原因是「競賽心態」。一些研究認為，如果自己所在的機構放慢腳步，而其他實驗室繼續推進，結果可能更糟。尤其是在他們看來，如果更強的 AI 被「不夠謹慎」的機構率先掌握，風險反而更高。
Anthropic 可擴展監督負責人 Samuel Marks 這週也在 X 上公開寫道，AI 開發者之所以繼續推進，往往是商業激勵與競爭壓力共同作用的结果，同時他們擔心其他團隊會以更不安全的方式使用這項技術。
影響力下降加劇焦慮
文章還提出了第三種解釋，即研究人員對自身影響力下降的焦慮。隨著最先進模型的開發越來越集中於少數幾個實驗室，即便身處這些公司內部，研究人員也可能覺得自己對技術方向的實際影響有限。
AI 初創公司 Inworld 首席執行官 Kylan Gibbs 表示，研究人員一方面更清楚風險，另一方面又難以左右結果，這種「認知更強、控制更少」的落差，會放大焦慮情緒，並最終以更公開、更激烈的風險警告形式表現出來。
文章同時提到，AI公司在招聘時也面臨類似的張力。許多研究人員出身於學術界，更容易接受「參與安全與對齊工作」這類使命敘事，而非單純圍繞利潤和財富的招募方式。這也使得行業內部的風險表達，往往與技術開發同步出現。
