微軟表示,正與包括埃森哲(Accenture)、Adobe、KPMG、萬達卡(MasterCard)和沃爾沃汽車(Volvo Cars)在內的40多個組織合作,通過新的AI透明性倡議,推動在不同模型和供應商之間形成統一的AI透明性、安全性和治理方法。微軟還將提升其產品和服務中AI模型與智能體如何與企業數據交互的可見性。
美國華盛頓州雷德蒙德,11月17日 / PRNewswire / -- 組織可以觀察到圍繞 AI 模型的大量活動,但往往無法重建從請求到結果之間發生了什麼,這使得獨立驗證模型行為變得困難。週二在 Microsoft Ignite 大會上,微軟董事長兼執行長薩蒂亞·納德拉宣佈了微軟讓 AI 更安全的承諾的下一階段:AI 透明度倡議。這是一項與客戶和合作伙伴共同開展的合作,旨在為不同模型和供應商建立一套共同、開放的安全與治理方法。該倡議體現了一個簡單原則:AI 自主性越強,透明度就必須越高。
微軟安全事業部執行副總裁海耶特·加洛特表示:「要讓安全控制真正有效,每個組織都需要對模型本身有更高的透明度。通過這項工作,我們將為所有模型帶來更多透明度。這是讓遏制措施更智能、更強大的關鍵一步,也有助於我們更好地明確責任和可追溯性。」
企業正將 AI 模型連接到數據、工具、憑證和基礎設施,使智能體能够在不需要每一步都經過人工批准的情況下採取行動。現有的控制措施能觀察到圍繞 AI 模型的大量活動,但無法看到模型內部發生了什麼,也不能獨立核實其對自身行為的說明。這限制了組織理解智能體行動背景的能力。這樣的證據缺口會帶來安全、合規、審計和責任追究的風險。安全團隊需要一種新的信任架構,以應對能力不斷增強的 AI 智能體所帶來的日益增長的內部風險。
Adobe 首席安全官安查尔·古普塔表示:“隨著 AI 智能體越來越深入地融入企業運營,安全團隊需要清楚地了解這些智能體正在訪問什麼、採取了哪些行動,以及這些行動如何被驗證。圍繞整個行業建立 AI 透明度的共同方法,對於增強信任、幫助組織在保持安全和責任的同時自信創新至關重要。”
從原則到實踐
該倡議分為三部分。首先,微軟將擴大其在美國國家標準與技術研究院(NIST)中的參與,並利用其研究成果,為數據透明性、安全性和治理制定開放的、行業範圍的標準。其次,微軟正與包括埃森哲(Accenture)、IBM、惠普(HP)、萬達卡(MasterCard)和沃爾沃汽車(Volvo Cars)在內的40多個組織合作,幫助制定開放標準,使數據系統無論使用何種模型或供應商,都能具備可責任追究、可獨立驗證且「安全即設計」的特性。
第三,微軟將把這項工作納入 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 中,使客戶能夠將由此產生的證據與其安全及合規工具結合使用,無論這些工具來自微軟還是其他供應商。
KPMG International 全球首席信息安全官约翰·以色列表示:“我们的客户希望更快地使用 AI,他们不应该在创新和安全之间做选择。AI 信任需要透明度、可解释性和负责任的监督。我们很高兴与微软合作推进 AI 透明度倡议,帮助建立开放、行业范围的标准,为组织提供大规模负责任部署 AI 所需的可见性和控制力。”
明確追責
擁有數據、工具和憑證訪問權限的智能體,其風險畫像類似於特權內部人員,但它們以機器的速度和規模運行,因此獨立監督至關重要。
責任追究仍然屬於組織本身。當發生重大事件時,領導者需要對客戶、員工、董事會、審計師和監管機構負責。將責任歸咎於 AI 并非解決方法,「相信模型」也不是一種控制手段。
該倡議旨在跨模型和供應商運行,包括封閉模型和開放權重模型,因此開發團隊可以更換或更新驅動其智能體的模型,而不會削弱 IT 和安全團隊對其進行安全治理的能力,也不會削弱合規團隊審計其行為的能力。
埃森哲全球網絡安全負責人哈普里特·西杜表示:「隨著組織邁出 AI 重塑的下一步,他們需要一個堅實的信任和信心基礎。微軟以開放、行業驅動的方式推進 AI 透明度的這類倡議,有助於我們在保護 AI 模型並為其配備控制和治理時取得進展。埃森哲很自豪能與微軟以及該領域的其他領導者合作。」
看見、驗證、控制
微軟認為,每個組織都應該能夠看到 AI 系統訪問了什麼、做了什麼,獨立驗證其行為,并控制其被允許執行的操作。
- 看見:了解 AI 被要求和獲准執行什麼任務,使用了哪個模型和運行時環境,訪問了哪些數據和工具,以及採取了哪些行動。根據政策和閾值持續監控智能體活動和風險信號。
- 驗證:智能體不能成為其自身行為的唯一事實來源,前沿模型也不能被信任來治理自己。覆蓋智能體身份、委託意圖和行動的證據應標明其來源(模型、其周圍的運行時環境,或身份和策略等獨立系統),以便將模型報告的訊號與獨立觀察到的記錄進行核對。組織應能夠使用自身的安全和合規系統獨立驗證 AI 活動,而不是僅依賴模型供應商對其行為的說明。
- 控制:始終掌握 AI 被允許做什麼。每個工作流的目標、所有者、數據和委託權限的清晰證據,有助於組織在發生重大行動之前執行其政策,並在調查、遏制、恢復和審計期間重建所發生的事情。即使模型和供應商發生變化,這些證據也應繼續保留在組織手中。無論模型或供應商如何,組織都應保留對其智能體可訪問數據以及訪問方式的控制權。
參與方式
有興趣幫助塑造該倡議或跟進其進度的組織,可以訪問 aka.ms / learnmoreAItransparency 以了解更多並註冊。
微軟表示,關注 Microsoft Ignite 的新聞,微軟及行業領導者將分享組織如何自信地管理 AI 模型及智能體的見解。更多信息可在微軟安全博客上查看。











