微软宣布,Teams将允许组织接入经认证的第三方工具,对会议中的视频和音频内容进行扫描,以检测是否存在深度伪造。该功能计划于11月中旬在Teams桌面版、Mac版和网页版逐步推出。
根据微软披露的机制,深度伪造检测由外部服务提供商完成,Teams本身不承担识别工作,仅负责在检测到可疑内容时展示警告弹窗,并向用户提供相应操作选项。微软Graph文档已列出reportSyntheticMedia测试版API,对该功能的运作方式作出说明。
在接入流程上,经认证的检测机器人须先获得加入通话的许可,并需要组织管理员授予Calls.ReportSyntheticMedia.All权限。机器人随后会对参会者进行标记,给出介于0.0至1.0之间的置信度评分,以及低、中、高三个等级的深度伪造判断结果。
微软在合规性说明中提示,第三方服务提供商可能会分析会议中的音频和视频信号,管理员在启用该功能前应审查相关服务条款及数据处理方式。这一提示意味着,功能落地时企业需在安全检测与会议数据合规之间作出评估。
随着远程与混合办公成为常态,会议场景中的身份伪造风险正在上升,视频会议平台对合成媒体内容的治理需求随之增加。微软此次选择以开放接口、引入第三方检测能力的方式切入,而非自建检测模型,可在较快补齐能力的同时,将检测责任与数据处理边界交由外部提供商承担。
该功能上线后,企业在Teams会议中的身份核验将多一层技术手段,但检测准确率、误报处理及跨服务商的数据治理规则,仍是管理员在实际部署时需要重点权衡的问题。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。