微软表示,通过新的AI透明度倡议,公司正与包括Accenture、Adobe、KPMG、Mastercard和沃尔沃汽车在内的40多家组织合作,推动在不同模型和提供方之间形成一套共同的AI透明度、安全和治理方法。微软还将提升其产品和服务中AI模型与代理如何与企业数据交互的可见性。
华盛顿州雷德蒙德,11月17日 /PRNewswire/ -- 组织可以观察到AI模型周围的大部分活动,但往往无法重建请求与结果之间发生了什么,这使得独立验证模型行为变得困难。周二在Microsoft Ignite大会上,微软董事长兼首席执行官萨提亚·纳德拉宣布了微软在让AI更安全方面承诺的下一阶段:AI透明度倡议。这是一项与客户和合作伙伴协作的努力,旨在建立跨模型和提供方的共同、开放的安全与治理方法。该倡议体现了一个简单原则:AI自主性越强,透明度就必须越高。
“要让安全控制真正有效,每个组织都需要对模型本身有更高的透明度,”微软安全事业部执行副总裁Hayete Gallot表示。“通过这项工作,我们将为所有模型带来更多透明度。这是让遏制措施更智能、更强大的关键一步,有助于我们更好地提升问责和可追溯性。”
企业正在把AI模型与数据、工具、凭证和基础设施连接起来,使代理能够在无需每一步都获得人工批准的情况下采取行动。现有控制措施可以观察到AI模型周围的大部分活动,但无法看到模型内部发生了什么,也无法独立验证模型对其自身行为的说明。这限制了组织理解代理行动背后上下文的能力。这种证据缺口带来了安全、合规、审计和问责风险。安全团队需要一种新的信任架构,以应对越来越强大的AI代理带来的日益增长的内部风险。
Adobe首席安全官Aanchal Gupta表示:“随着AI代理更深入地融入企业运营,安全团队需要清晰地了解这些代理访问了什么、采取了什么行动,以及这些行动如何被验证。围绕行业建立一套共同的AI透明度方法,对于增强信任、帮助组织在保持安全和问责的同时自信创新至关重要。”
从原则到实践
该倡议分为三部分。第一,微软将扩大其对美国国家标准与技术研究院(NIST)SI Agent Standards Initiative的参与,并利用其研究开发面向AI透明度、安全和治理的开放、行业级标准。第二,微软正与包括Accenture、Adobe、KPMG、Mastercard和沃尔沃汽车在内的40多家组织合作,帮助制定开放标准,使AI系统无论使用何种模型或提供方,都能做到可问责、可独立验证,并在设计上具备安全性。
第三,微软将把这项工作纳入Microsoft AI、Microsoft Foundry和Microsoft Copilot,使客户能够将由此产生的证据与其安全和合规工具结合使用,无论这些工具来自微软还是其他提供方。
“我们的客户希望更快地采用AI,他们不应该在创新和安全之间做选择,”KPMG International全球首席信息安全官John Israel表示。“AI信任需要透明度、可解释性和负责任的监督。我们很自豪能与微软合作推进AI透明度倡议,帮助建立开放、行业级标准,为组织提供大规模负责任部署AI所需的可见性和控制力。”
明确问责
拥有数据、工具和凭证访问权限的代理,其风险画像类似于特权内部人员,但它们以机器速度和规模运行,因此独立监督至关重要。
问责仍然属于组织本身。当发生重要事件时,领导者需要向客户、员工、董事会、审计师和监管机构负责。把责任归咎于AI并不是答案,“相信模型”也不是一种控制手段。
该倡议旨在跨模型和提供方运作,包括封闭模型和开放权重模型,这样开发团队就可以更换或更新驱动其代理的模型,而不会削弱IT和安全团队对其进行安全治理的能力,也不会削弱合规团队审计其行为的能力。
Accenture全球网络安全负责人Harpreet Sidhu表示:“随着组织迈出AI重塑的下一步,它们需要一个坚实的信任和信心基础。微软以开放、行业驱动的方式推进AI透明度的这类倡议,可以帮助我们在保护AI模型并为其配备控制和治理时更进一步。Accenture很自豪能与微软及该领域的其他领导者合作。”
看见、验证、控制
微软认为,每个组织都应该能够看到AI系统访问了什么、做了什么,独立验证其行为,并控制其被允许做什么。
- 看见:了解AI被要求做什么、被授权做什么,使用了哪个模型和运行时,访问了哪些数据和工具,以及采取了哪些行动。持续监测代理活动和风险信号,并与政策和阈值进行比对。
- 验证:代理不能成为其自身行为的唯一真相来源,前沿模型也不能被信任来治理自己。涵盖代理身份、委托意图和行动的证据应标明其来源(模型、其周围的运行时,或身份和策略等独立系统),以便将模型报告的信号与独立观察到的记录进行核对。组织应能够使用自己的安全和合规系统独立验证AI活动,而不必完全依赖模型提供方对其行为的说明。
- 控制:保持对AI被允许做什么的掌控。每个工作流的目的、所有者、数据和委托权限都应有清晰证据,以帮助组织在发生重大行动前执行政策,并在调查、遏制、恢复和审计期间重建发生了什么。即便模型和提供方发生变化,这些证据也应留在组织手中。无论模型或提供方如何变化,组织都应保留对其代理可访问数据以及访问方式的控制权。
参与方式
有兴趣帮助塑造该倡议或跟踪其进展的组织,可以访问 aka.ms/learnmoreAItransparency 了解更多并注册。
微软表示,欢迎关注Microsoft Ignite上的新闻,微软和行业领袖将在会上分享组织如何自信地管理AI模型和代理的见解。更多信息可在Microsoft Security博客上查看。
致编辑说明
更多来自微软的资讯、新闻和观点,请访问 Microsoft Source:https://news.microsoft.com/source。文中网页链接、电话号码和职务在发布时准确,但之后可能已发生变化。记者和分析师如需进一步帮助,可联系微软快速响应团队或 https://news.microsoft.com/microsoft-public-relations-contacts 上列出的其他适当联系人。










