微軟公佈了一份新的 AI 行為準則，試圖將模型訓練和部署中的安全要求寫得更加具體。該文件不僅提出了整體的價值取向，還列出了若干不可觸碰的紅線，重點是限制模型實施攻擊、欺騙用戶或脫離人類控制的能力。
以訓練約束為核心
這份文件更像是一套針對模型開發環節的底層規範，而非對外宣告的原則。微軟在文件中寫道，未來十年內，超智能系統可能在多數任務上超越人類表現，因此如何約束、控制並讓這類系統與人類目標保持一致，將成為一項長期挑戰。
微軟同時提出幾項總原則，包括讓 AI 辅助人類而非取代人類，以及推動更廣泛的人類福祉。與這些原則相配套的，是直接作用於模型訓練和行為邊界的安全限制。
用戶指令不能覆蓋紅線
根據微軟的設計，每個模型都會有一套高於用戶偏好和具體任務的總行為準則。也就是說，即便用戶提出相關要求，模型也不應該突破這些底線。
- 不得發起網絡攻擊
- 不得協助核武器相關用途
- 不得生成深度伪造內容
除了這些明確的禁區之外，微軟還強調要防止模型出現更廣泛的失控風險。文件中提到，模型不得透過適應、欺騙、自我強化、串通等方式規避人類監督，從而使得授權人員或系統無法可靠地引導、修改或關閉模型。
AI 安全討論繼續升溫
在這份準則發布之時，AI 行業對安全與對齊問題的關注正在明顯升溫。報導提到，近期多起“失控代理”事件，以及 Anthropic 的一名員工突然離職並公開表達對 AI 生存風險的擔憂，都推動了這一議題繼續升溫。
在前沿模型开发的節奏上，微軟、OpenAI、Anthropic和xAI最近都表現出更加謹慎的態度，傾向於在推進能力邊界的同時加強評估和約束。微軟的納德拉（Nadella）也公開表示，支持以「對齊」為設計目標的謹慎推進方式，并歡迎在AI實驗室內部引入嵌入式評估機制。
從內容來看，微軟這次並未提出新的監管方案，而是將公司內部對 AI 安全的基本立場進一步制度化。對外界而言，這份文件傳達的訊息是，大型模型公司正試圖將「安全」從口頭原則轉變為可執行的訓練規則。
