微软与多家行业组织启动AI透明度倡议 以增强企业对AI模型和代理的信任
PR Newswire
23分钟前
Ai 焦点
微软在Microsoft Ignite上宣布启动AI透明度倡议,并与40多家组织合作,推动AI透明度、安全和治理的共同方法。微软称,该倡议将帮助企业更清楚地了解AI模型和代理如何与企业数据交互,并把相关能力纳入Microsoft AI、Microsoft Foundry和Microsoft Copilot。
有帮助
No.帮助

微软表示,通过新的AI透明度倡议,公司正与包括Accenture、Adobe、KPMG、Mastercard和沃尔沃汽车在内的40多家组织合作,推动在不同模型和提供方之间形成一套共同的AI透明度、安全和治理方法。微软还将提升其产品和服务中AI模型与代理如何与企业数据交互的可见性。

华盛顿州雷德蒙德,11月17日 /PRNewswire/ -- 组织可以观察到AI模型周围的大部分活动,但往往无法重建请求与结果之间发生了什么,这使得独立验证模型行为变得困难。周二在Microsoft Ignite大会上,微软董事长兼首席执行官萨提亚·纳德拉宣布了微软在让AI更安全方面承诺的下一阶段:AI透明度倡议。这是一项与客户和合作伙伴协作的努力,旨在建立跨模型和提供方的共同、开放的安全与治理方法。该倡议体现了一个简单原则:AI自主性越强,透明度就必须越高。

“要让安全控制真正有效,每个组织都需要对模型本身有更高的透明度,”微软安全事业部执行副总裁Hayete Gallot表示。“通过这项工作,我们将为所有模型带来更多透明度。这是让遏制措施更智能、更强大的关键一步,有助于我们更好地提升问责和可追溯性。”

企业正在把AI模型与数据、工具、凭证和基础设施连接起来,使代理能够在无需每一步都获得人工批准的情况下采取行动。现有控制措施可以观察到AI模型周围的大部分活动,但无法看到模型内部发生了什么,也无法独立验证模型对其自身行为的说明。这限制了组织理解代理行动背后上下文的能力。这种证据缺口带来了安全、合规、审计和问责风险。安全团队需要一种新的信任架构,以应对越来越强大的AI代理带来的日益增长的内部风险。

Adobe首席安全官Aanchal Gupta表示:“随着AI代理更深入地融入企业运营,安全团队需要清晰地了解这些代理访问了什么、采取了什么行动,以及这些行动如何被验证。围绕行业建立一套共同的AI透明度方法,对于增强信任、帮助组织在保持安全和问责的同时自信创新至关重要。”

从原则到实践

该倡议分为三部分。第一,微软将扩大其对美国国家标准与技术研究院(NIST)SI Agent Standards Initiative的参与,并利用其研究开发面向AI透明度、安全和治理的开放、行业级标准。第二,微软正与包括Accenture、Adobe、KPMG、Mastercard和沃尔沃汽车在内的40多家组织合作,帮助制定开放标准,使AI系统无论使用何种模型或提供方,都能做到可问责、可独立验证,并在设计上具备安全性。

第三,微软将把这项工作纳入Microsoft AI、Microsoft Foundry和Microsoft Copilot,使客户能够将由此产生的证据与其安全和合规工具结合使用,无论这些工具来自微软还是其他提供方。

“我们的客户希望更快地采用AI,他们不应该在创新和安全之间做选择,”KPMG International全球首席信息安全官John Israel表示。“AI信任需要透明度、可解释性和负责任的监督。我们很自豪能与微软合作推进AI透明度倡议,帮助建立开放、行业级标准,为组织提供大规模负责任部署AI所需的可见性和控制力。”

明确问责

拥有数据、工具和凭证访问权限的代理,其风险画像类似于特权内部人员,但它们以机器速度和规模运行,因此独立监督至关重要。

问责仍然属于组织本身。当发生重要事件时,领导者需要向客户、员工、董事会、审计师和监管机构负责。把责任归咎于AI并不是答案,“相信模型”也不是一种控制手段。

该倡议旨在跨模型和提供方运作,包括封闭模型和开放权重模型,这样开发团队就可以更换或更新驱动其代理的模型,而不会削弱IT和安全团队对其进行安全治理的能力,也不会削弱合规团队审计其行为的能力。

Accenture全球网络安全负责人Harpreet Sidhu表示:“随着组织迈出AI重塑的下一步,它们需要一个坚实的信任和信心基础。微软以开放、行业驱动的方式推进AI透明度的这类倡议,可以帮助我们在保护AI模型并为其配备控制和治理时更进一步。Accenture很自豪能与微软及该领域的其他领导者合作。”

看见、验证、控制

微软认为,每个组织都应该能够看到AI系统访问了什么、做了什么,独立验证其行为,并控制其被允许做什么。

  • 看见:了解AI被要求做什么、被授权做什么,使用了哪个模型和运行时,访问了哪些数据和工具,以及采取了哪些行动。持续监测代理活动和风险信号,并与政策和阈值进行比对。
  • 验证:代理不能成为其自身行为的唯一真相来源,前沿模型也不能被信任来治理自己。涵盖代理身份、委托意图和行动的证据应标明其来源(模型、其周围的运行时,或身份和策略等独立系统),以便将模型报告的信号与独立观察到的记录进行核对。组织应能够使用自己的安全和合规系统独立验证AI活动,而不必完全依赖模型提供方对其行为的说明。
  • 控制:保持对AI被允许做什么的掌控。每个工作流的目的、所有者、数据和委托权限都应有清晰证据,以帮助组织在发生重大行动前执行政策,并在调查、遏制、恢复和审计期间重建发生了什么。即便模型和提供方发生变化,这些证据也应留在组织手中。无论模型或提供方如何变化,组织都应保留对其代理可访问数据以及访问方式的控制权。

参与方式

有兴趣帮助塑造该倡议或跟踪其进展的组织,可以访问 aka.ms/learnmoreAItransparency 了解更多并注册。

微软表示,欢迎关注Microsoft Ignite上的新闻,微软和行业领袖将在会上分享组织如何自信地管理AI模型和代理的见解。更多信息可在Microsoft Security博客上查看。

致编辑说明

更多来自微软的资讯、新闻和观点,请访问 Microsoft Source:https://news.microsoft.com/source。文中网页链接、电话号码和职务在发布时准确,但之后可能已发生变化。记者和分析师如需进一步帮助,可联系微软快速响应团队或 https://news.microsoft.com/microsoft-public-relations-contacts 上列出的其他适当联系人。

打赏
$0
点赞
0
收藏
0
浏览量 31
币界网提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
比特币、以太坊和XRP为何在加密流动性枯竭之际下跌
加密市场周五再度大幅抛售,比特币跌破6.9万美元,以太坊失守2000美元。Glassnode称稳定币供应30天内减少142亿美元,为2022年6月以来最快收缩;同时,美国比特币和以太坊ETF持续出现资金流出,地缘局势和宏观不确定性也加剧了压力。
crypto.news
·2026-11-18 03:00:28
0
从 AI 到天然木材回归:Bona 揭示 2027 年地板趋势
Bona 发布第二届 Bona Floorcast 调研称,2027 年美国消费者在地板选择、清洁和养护上的偏好正在变化:更温暖的木色继续走强,AI 进入家居护理讨论,但传统专业人士仍最受信任。调研还显示,许多屋主更愿意修复现有木地板而非更换,并越来越关注室内空气质量与产品健康属性。
PR Newswire
·2026-11-18 03:00:25
0
以太坊ETF11月净流出达7.641亿美元
美国现货以太坊ETF在截至11月13日的一周净流出3.989亿美元,使11月前两个交易日周的累计撤资达到7.641亿美元。BlackRock的ETHA占最新一周净流出的近78%,而比特币ETF在11月16日录得净流入790万美元,结束连续七个交易日的净流出。
crypto.news
·2026-11-18 03:00:21
1
Synthesys宣布与WisdomTree合作,三只代币化基金已在新加坡注册
Synthesys宣布与WisdomTree合作,使WisdomTree的代币化基金可通过其网络内的受监管渠道分销。首批包括覆盖货币市场、美国大盘股和科技策略的三只基金,WisdomTree称已在新加坡将其注册为受限制计划。
PR Newswire
·2026-11-18 03:00:19
0
英伟达将出口合规事务交由临时CEO Colette Kress负责
英伟达表示,其国家安全和贸易合规团队将直接向临时CEO Colette Kress以及新设立的董事会监督委员会汇报日常运营。公司称,董事会已成立国家安全与出口管制监督委员会,以监督国家安全政策、出口管制合规和全球贸易风险。
Fortune
·2026-11-18 03:00:17
2
查看更多