OpenAI 引入四家機構開展 AI 安全評估
2026-11-17 00:41:37
幣界網消息,OpenAI宣佈與Apollo Research、Goodfire、Metr和Transluce四家獨立機構合作,啟動首階段嵌入式安全評估,允許外部專家訪問內部模型、源代碼、訓練數據及監控系統,審查模型對齊和安全防護措施。其中,Apollo Research重點評估模型是否會暗中違背開發者意圖;Goodfire研究模型內部機制及訓練監控;Metr審查大規模強化學習訓練中的模型失調行為;Transluce評估後訓練階段的安全測試質量。評估人員將在必要時進入OpenAI辦公場所,通過專用設備訪問敏感資料。OpenAI基金會董事會下屬獨立監督委員會將全程監督並接收完整報告。評估機構保留獨立發布結果的權利,但OpenAI可要求刪除機密信息或延遲披露安全風險。OpenAI還計劃於2027年進一步擴大評估範圍。
來源:金十數據
本內容只為提供市場資訊,不構成投資建議。
關注幣界網官方帳號,及時關注最新動態









