华中科技大学与阿里巴巴共建AI前沿安全联合研究中心,首批启动9个课

联合研究中心首批启动的9个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向。

11月18日,华中科技大学与阿里巴巴集团签署合作协议,共同成立“智能攻防与前沿安全联合研究中心”,聚焦人工智能安全领域的研究。该研究中心首批启动9个课题,覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大方向。

根据官方披露的信息,首批课题针对AI应用落地过程中的具体安全风险展开。其中,“图像对抗样本与终端威胁研判”课题关注AI智能体代替用户操作手机、完成复杂任务时可能出现的安全问题,包括屏幕画面被伪造、操作过程受到恶意诱导等场景,探索相应的风险识别与防护技术。

在数据协同与隐私保护方向,联合研究中心设立“隐私保护关系图谱”课题。该课题针对用户在购物、地图、外卖等应用间切换时面临的数据互通与个人信息泄露矛盾,探索通过密态计算等技术实现数据“可用不可见、协同不透传”,试图在数据便利性与隐私保护之间建立可兼顾的技术方案。

此次合作将高校的科研能力与企业的产业场景相结合。华中科技大学在网络安全、人工智能等领域具备学科积累,阿里巴巴则拥有大模型、智能体及云计算等业务场景,双方联合开展课题研究,有助于将安全攻防研究置于真实应用环境中验证。

随着大模型和智能体加速进入终端与各类应用,AI安全正从模型层面的对抗攻防扩展至终端交互、数据协同等更复杂的环节。企业与高校共建联合研究机构,或将成为AI安全技术从研究走向工程化落地的一种常见路径。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
三星One UI 9.5测试版曝光AI天气提醒功能,可依据作息与通勤自动推送
上一篇 6小时前
勒索软件解密服务商被诉以代付赎金冒充技术解密
下一篇 5小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部