OpenAI 联创 John Schulman:AI 应該成為公共科學,不能由少數科技公司主導
2026-11-18 19:19:15
幣界網消息,OpenAI聯創John Schulman在A16Z播客節目中表示,AI對齊不應該成爲少數幾家科技公司的專屬研究,而應該發展成一門面向全球的公共科學,讓更多的人參與AI價值觀的塑造,避免過度依賴少數公司的判斷。隨著遞歸自我改進(RSI)逐漸取得進展,AI已經開始輔助模型研發。OpenAI首席研究官Mark Chen透露,AI研發流程已經出現RSI加速效應的早期信號,目前進展約為25%至50%,但AI仍難以獨立判斷有價值的研究方向,尚未實現自主研發下一代模型。Mark Chen同時警告,隨著模型自主性增強,如果其目標與人類意圖不一致,長時間運行可能產生意料之外的次級目標。不過,更強大的AI也有望反過來幫助研究人員監控模型行為、發現並修復對齊問題。John Schulman強調,AI對齊不僅是技術問題,也涉及由誰決定AI應該遵循的價值觀,用戶和社會應該擁有更多參與和塑造AI價值觀的空間。
利好 0
利空 0
來源:互聯網
本內容只為提供市場資訊,不構成投資建議。