微軟表示,通過新的 AI 透明度倡議,該公司正與包括 Accenture、Adobe、KPMG、Mastercard 和沃爾沃汽車在內的 40 多個組織合作,推動在不同模型和提供者之間形成一套共同的 AI 透明度、安全性和治理方法。微軟還將提升其產品和服務中 AI 模型與代理如何與企業數據交互的可見性。
華盛頓州雷德蒙德,11月17日 / PRNewswire / -- 組織能觀察到 AI 模型周圍的大部分活動,但往往無法重建請求與結果之間發生了什麼,這使得獨立驗證模型行為變得困難。週二在 Microsoft Ignite 大會上,微軟董事長兼執行長薩蒂亞·納德拉宣佈了微軟在讓 AI 更安全方面承諾的下一階段:AI 透明度倡議。這是一項與客戶和合作夥伴協作的努力,旨在建立跨模型和提供方的共同、開放的安全與治理方法。該倡議體現了一個簡單原則:AI 自主性越強,透明度就必須越高。
「若要讓安全控制真正有效,每個組織都需要對模型本身有更高的透明度,」微軟安全事業部執行副總裁 Hayete Gallot 表示。「通過這項工作,我們將為所有模型帶來更多透明度。這是讓遏制措施更智能、更強大的關鍵一步,有助於我們更好地提升責任追究和可追溯性。」
企業正在將 AI 模型與數據、工具、憑證和基礎設施連接起來,使得代理能夠在不需要每一步都獲得人工批准的情況下採取行動。現有的控制措施能夠觀察到 AI 模型周圍的大部分活動,但無法看到模型內部發生了什麼,也不能獨立驗證模型對其自身行為的說明。這限制了組織理解代理行動背後上下文的能力。這種證據缺口帶來了安全、合規、審計和責任追究的風險。安全團隊需要一種新的信任架構,以應對越來越強大的 AI 代理帶來的日益增長的內部風險。
Adobe 首席安全官 Aanchal Gupta 表示:“隨著 AI 代理更深入地融入企業運營,安全團隊需要清楚地了解這些代理訪問了什麼、採取了什麼行動,以及這些行動是如何被驗證的。圍繞行業建立一套共同的 AI 透明度方法,對於增強信任、幫助組織在保持安全和責任的同時自信創新至關重要。”
從原則到實踐
該倡議分為三部分。第一,微軟將擴大其對美國國家標準與技術研究院(NIST)的參與,並利用其研究開發面向透明性、安全性和治理的開放、行業級標準。第二,微軟正與包括IBM、谷歌、亞馬遜、惠普和沃爾沃汽車在內的40多個組織合作,幫助制定開放標準,使無論使用何種模型或供應商的系統,都能做到可責任追究、可獨立驗證,並在設計上具備安全性。
第三,微軟將把這項工作納入 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot 中,使客戶能夠將由此產生的證據與其安全及合規工具結合使用,無論這些工具來自微軟還是其他供應商。
「我們的客戶希望更快地採用 AI,他們不應該在創新和安全性之間做出選擇,」KPMG International 全球資訊安全總監 John Israel 表示。「AI 信任需要透明度、可解釋性以及負責任的監督。我們很自豪能與微軟合作推動 AI 透明度倡議,幫助建立開放的、行業級的標準,為組織提供大規模負責任部署 AI 所需的透明度和控制力。」
明確追責
擁有數據、工具和憑證訪問權限的代理,其風險畫像類似於特權內部人員,但它們以機器的速度和規模運行,因此獨立監督至關重要。
責任追究仍然屬於組織本身。當發生重要事件時,領導者需要對客戶、員工、董事會、審計師和監管機構負責。將責任歸咎於 AI 并非解決方法,「相信模型」也不是一種控制手段。
該倡議旨在跨模型和提供方運作,包括封閉模型和開放權重模型,這樣開發團隊就可以更換或更新驅動其代理的模型,而不會削弱 IT 和安全團隊對其進行安全治理的能力,也不會削弱合規團隊審計其行為的能力。
Accenture 全球網絡安全負責人 Harpreet Sidhu 表示:「隨著組織邁出 AI 重塑的下一步,它們需要一個堅實的信任和信心基礎。微軟以開放、行業驅動的方式推進 AI 透明度的這類倡議,可以幫助我們在保護 AI 模型並為其配備控制和治理時更进一步。Accenture 非常自豪能與微軟及該領域的其他領導者合作。」
看見、驗證、控制
微軟認為,每個組織都應該能夠看到 AI 系統訪問了什麼、做了什麼,獨立驗證其行為,并控制其被允許做什麼。
- 看見:了解 AI 被要求執行什麼任務、被授權做什麼事,使用了哪個模型和運行時環境,訪問了哪些數據和工具,以及採取了哪些行動。持續監控代理活動和風險信號,并與政策及閾值進行對比。
- 驗證:代理人不能成為其自身行為的唯一真相來源,前沿模型也不能被信任來治理自己。涵蓋代理人身份、委託意圖和行動的證據應標明其來源(模型、其周圍的運行時環境,或身份和策略等獨立系統),以便將模型報告的訊號與獨立觀察到的記錄進行核對。組織應能夠使用自己的安全和合規系統獨立驗證 AI 活動,而不必完全依賴模型提供方對其行為的說明。
- 控制:保持對 AI 被允許做什麼的掌控。每個工作流的目標、所有者、數據和委託權限都應有清晰的證據,以幫助組織在發生重大行動之前執行政策,並在調查、遏制、恢復和審計期間重建發生了什麼。即便模型和提供方發生變化,這些證據也應保留在組織手中。無論模型或提供方如何變化,組織都應保留對其代理可訪問數據以及訪問方式的控制權。
參與方式
有興趣幫助塑造該倡議或追蹤其進度的組織,可以訪問 aka.ms / learnmoreAItransparency 以了解更多並註冊。
微軟表示,歡迎關注 Microsoft Ignite 上的新聞,微軟和行業領袖將在會上分享組織如何自信地管理 AI 模型和代理的見解。更多信息可在 Microsoft Security 博客上查看。
致編輯說明
更多來自微軟的資訊、新聞和觀點,請訪問 Microsoft Source : https :// news.microsoft.com / source 。文中網頁鏈接、電話號碼和職務在發布時是準確的,但之後可能已經發生變化。記者和分析師如需進一步幫助,可以聯繫微軟快速響應團隊或 https :// news.microsoft.com / microsoft-public-relations-contacts 上列出的其他適當聯絡人。










