11月18日,华中科技大学与阿里巴巴集团签署合作协议,共同成立“智能攻防与前沿安全联合研究中心”,聚焦人工智能安全领域的研究。该研究中心首批启动9个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向。
根据官方披露的信息,首批课题针对AI应用落地过程中的具体安全风险展开。其中,“图像对抗样本与终端威胁研判”课题关注AI智能体代替用户操作手机、完成复杂任务时可能出现的安全问题,包括屏幕画面被伪造、操作过程受到恶意诱导等场景,探索相应的风险识别与防护技术。
在数据协同与隐私保护方向,联合研究中心设立“隐私保护关系图谱”课题。该课题针对用户在购物、地图、外卖等应用间切换时面临的数据互通与个人信息泄露矛盾,探索通过密态计算等技术实现数据“可用不可见、协同不透传”,试图在数据便利性与隐私保护之间建立可兼顾的技术方案。
此次合作将高校的科研能力与企业的产业场景相结合。华中科技大学在网络安全、人工智能等领域具备学科积累,阿里巴巴则拥有大模型、智能体及云计算等业务场景,双方联合开展课题研究,有助于将安全攻防研究置于真实应用环境中验证。
随着大模型和智能体加速进入终端与各类应用,AI安全正从模型层面的对抗攻防扩展至终端交互、数据协同等更复杂的环节。企业与高校共建联合研究机构,或将成为AI安全技术从研究走向工程化落地的一种常见路径。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。