微软与多家行业组织发起AI透明度倡议,提升企业对AI模型和智能体的信任
PR Newswire
20分钟前
Ai 焦点
微软表示,正与包括埃森哲、Adobe、KPMG、万事达卡和沃尔沃汽车在内的40多家组织合作,推动AI透明度、安全和治理的共同方法,并将把相关能力纳入其产品和服务,以增强企业对AI模型和智能体的可见性与可审计性。
有帮助
No.帮助

微软表示,正在与包括埃森哲、Adobe、KPMG、万事达卡和沃尔沃汽车在内的40多家组织合作,通过新的AI透明度倡议,推动在不同模型和供应商之间形成统一的AI透明度、安全和治理方法。微软还将提升其产品和服务中AI模型与智能体如何与企业数据交互的可见性。

美国华盛顿州雷德蒙德,11月17日 /PRNewswire/ -- 组织可以观察到围绕AI模型的大量活动,但往往无法重建从请求到结果之间发生了什么,这使得独立验证模型行为变得困难。周二在 Microsoft Ignite 大会上,微软董事长兼首席执行官萨提亚·纳德拉宣布了微软让AI更安全承诺的下一阶段:AI透明度倡议。这是一项与客户和合作伙伴共同开展的合作,旨在为不同模型和供应商建立一套共同、开放的安全与治理方法。该倡议体现了一个简单原则:AI自主性越强,透明度就必须越高。

微软安全事业部执行副总裁海耶特·加洛特表示:“要让安全控制真正有效,每个组织都需要对模型本身有更高的透明度。通过这项工作,我们将为所有模型带来更多透明度。这是让遏制措施更智能、更强大的关键一步,也有助于我们更好地明确责任和可追溯性。”

企业正在将AI模型连接到数据、工具、凭证和基础设施,使智能体能够在无需每一步都经过人工批准的情况下采取行动。现有控制措施可以观察到围绕AI模型的大量活动,但无法看到模型内部发生了什么,也无法独立核实其对自身行为的说明。这限制了组织理解智能体行动背景的能力。这样的证据缺口会带来安全、合规、审计和问责风险。安全团队需要一种新的信任架构,以应对能力不断增强的AI智能体所带来的日益增长的内部风险。

Adobe首席安全官安查尔·古普塔表示:“随着AI智能体越来越深入地融入企业运营,安全团队需要清楚地了解这些智能体正在访问什么、采取了哪些行动,以及这些行动如何被验证。围绕整个行业建立AI透明度的共同方法,对于增强信任、帮助组织在保持安全和问责的同时自信创新至关重要。”

从原则到实践

该倡议分为三部分。首先,微软将扩大其在美国国家标准与技术研究院(NIST)SI Agent Standards Initiative中的参与,并利用其研究成果,为AI透明度、安全和治理制定开放的、行业范围的标准。其次,微软正与包括埃森哲、Adobe、KPMG、万事达卡和沃尔沃汽车在内的40多家组织合作,帮助制定开放标准,使AI系统无论使用何种模型或供应商,都能具备可问责、可独立验证且“安全即设计”的特性。

第三,微软将把这项工作纳入 Microsoft AI、Microsoft Foundry 和 Microsoft Copilot,使客户能够将由此产生的证据与其安全和合规工具结合使用,无论这些工具来自微软还是其他供应商。

KPMG International全球首席信息安全官约翰·以色列表示:“我们的客户希望更快地使用AI,他们不应该在创新和安全之间做选择。AI信任需要透明度、可解释性和负责任的监督。我们很高兴与微软合作推进AI透明度倡议,帮助建立开放、行业范围的标准,为组织提供大规模负责任部署AI所需的可见性和控制力。”

明确问责

拥有数据、工具和凭证访问权限的智能体,其风险画像类似于特权内部人员,但它们以机器速度和规模运行,因此独立监督至关重要。

问责仍然属于组织本身。当发生重大事件时,领导者需要向客户、员工、董事会、审计师和监管机构负责。把责任归咎于AI并不是答案,“相信模型”也不是一种控制手段。

该倡议旨在跨模型和供应商运行,包括封闭模型和开放权重模型,因此开发团队可以更换或更新驱动其智能体的模型,而不会削弱IT和安全团队对其进行安全治理的能力,也不会削弱合规团队审计其行为的能力。

埃森哲全球网络安全负责人哈普里特·西杜表示:“随着组织迈出AI重塑的下一步,他们需要一个坚实的信任和信心基础。微软以开放、行业驱动的方式推进AI透明度的这类倡议,有助于我们在保护AI模型并为其配套控制和治理时取得进展。埃森哲很自豪能与微软以及该领域的其他领导者合作。”

看见、验证、控制

微软认为,每个组织都应该能够看到AI系统访问了什么、做了什么,独立验证其行为,并控制其被允许执行的操作。

  • 看见:了解AI被要求和获准执行什么任务,使用了哪个模型和运行时,访问了哪些数据和工具,以及采取了哪些行动。根据政策和阈值持续监控智能体活动和风险信号。
  • 验证:智能体不能成为其自身行为的唯一事实来源,前沿模型也不能被信任来治理自己。覆盖智能体身份、委托意图和行动的证据应标明其来源(模型、其周围的运行时,或身份和策略等独立系统),以便将模型报告的信号与独立观察到的记录进行核对。组织应能够使用自身的安全和合规系统独立验证AI活动,而不是仅依赖模型提供商对其行为的说明。
  • 控制:始终掌握AI被允许做什么。每个工作流的目的、所有者、数据和委托权限的清晰证据,有助于组织在发生重大行动前执行其政策,并在调查、遏制、恢复和审计期间重建发生了什么。即使模型和供应商发生变化,这些证据也应继续保留在组织手中。无论模型或供应商如何,组织都应保留对其智能体可访问数据以及访问方式的控制权。

参与方式

有兴趣帮助塑造该倡议或跟进其进展的组织,可以访问 aka.ms/learnmoreAItransparency 了解更多并注册。

微软表示,关注 Microsoft Ignite 的新闻,微软及行业领导者将分享组织如何自信地管理AI模型和智能体的见解。更多信息可在微软安全博客上查看。

打赏
$0
点赞
0
收藏
0
浏览量 30
币界网提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
谷歌扩大 Gemini Tasks 功能开放范围,可帮助用户拨打电话和完成购买
谷歌正在扩大 Gemini 中 Tasks 功能的推出范围。该功能可将聊天机器人切换为更主动的助手,帮助用户拨打商家电话、预约服务、通过 Google Pay 完成购买,并在提示下安全登录网站。
TechCrunch
·2026-11-18 03:09:07
0
苹果服务出现故障,涉及 iCloud、App Store 和 Apple Music
苹果公司系统状态页面显示,iCloud 的账户与登录服务出现影响“所有用户”的问题,可能导致服务变慢或无法使用;App Store、AppleCare on Device 和 Apple Music 也受到影响。苹果尚未就此次故障发布正式声明。
TechCrunch
·2026-11-18 03:09:05
0
黄仁勋称若董事会认为符合股东和公司利益 愿意重返英伟达任CEO
英伟达前CEO黄仁勋在辞职近一周后首次公开发声,称如果董事会认为其回归符合股东、员工、公司及美国的最大利益,他愿意重返CEO职位。与此同时,英伟达董事会新设委员会监督国家安全政策和出口管制合规,黄仁勋还将于12月1日出席美国国会听证。
Wallstreetcn
·2026-11-18 03:09:03
0
谷歌将 Gemini 临时聊天记录保留期延长至约两个月,即使关闭历史记录也是如此
谷歌表示,随着 AI 系统能力增强,公司将把 Gemini 临时聊天及关闭聊天历史时的对话保留期,从此前的 72 小时延长至约两个月。该调整将在未来几周内于 Gemini 应用全球推出,谷歌同时还将把聊天历史与 AI 训练设置分开。
TechCrunch
·2026-11-18 03:09:00
0
黄仁勋称若董事会认为有利于公司可重返英伟达CEO,盘中带动美股和英伟达跌幅收窄
黄仁勋在离职后首次公开表示,如果董事会认为他回归符合公司、股东和员工的最佳利益,他愿意重新出任英伟达CEO。消息一度推动英伟达和美股主要指数盘中快速反弹,但随后跌幅再度扩大;彭博社称,截至周二英伟达董事会仍未考虑让他复职。
Wallstreetcn
·2026-11-18 03:08:58
0
查看更多