生成式AI引发安全新挑战,亚马逊首席安全官给出解决之道

如今,伴随着人工智能技术快速迭代,生成式AI正以强大的创造力和高效的生产力,实现前所未有的普及。与此同时,企业在享受生成式AI带来的各种便利的同时,对安全问题也日益关注,比如隐私数据的泄露、生成内容给企业造成误导等。

如今,伴随着人工智能技术快速迭代,生成式AI正以强大的创造力和高效的生产力,实现前所未有的普及。与此同时,企业在享受生成式AI带来的各种便利的同时,对安全问题也日益关注,比如隐私数据的泄露、生成内容给企业造成误导等。

日前,亚马逊首席安全官Steve Schmidt在接受《华尔街日报》访谈时,从亚马逊安全团队的自身实践切入,展示当下企业安全面临的挑战变化以及应对措施,包括从代码初始阶段提升安全效率、数据安全策略制定和推进的做法及建议。

Steve Schmidt认为,企业在利用生成式AI进行创新时,应从以下三点入手,提升企业安全:1、安全团队说“不”很容易,但这并不是正确的做法;2、企业需要通过可见性的工具来了解员工如何使用数据;3、企业应通过相应的机制解决安全问题。

1.jpg

生成式AI加速普及,企业必须关注三大安全问题

日前,德勤对生成式AI带来的变革给出了自己的判断:以生成式AI为代表的人工智能,将是产业创新和经济增长的动力引擎之一,尤其是人工智能技术的突破性发展,将有效带来开拓性创新,为产业经济创造新市场、新客户、新产品和新服务提供了想象力和可能性。

事实上,自去年生成式AI爆火以来,几乎所有的企业用户都在积极探索借助生成式AI推动自身的业务创新。尽管生成式AI的应用前景不可估量,但Steve Schmidt依然认为,任何企业在谈及使用生成式AI的安全问题时,都必须问自己三个问题:

首先,数据在哪里?企业需要知道用数据训练模型的整个工作流程中,这些数据来自哪里,以及是如何被处理和保护的。

其次,我的查询和任何相关数据会发生什么?训练数据并不是企业需要关注的唯一敏感数据集。当企业及其用户开始使用生成式AI和大型语言模型时,他们很快就会掌握如何让查询更有效。之后,他们会在查询中添加更多细节和具体要求,从而获得更好的结果。

因此,企业在使用生成式AI进行查询时,需要清楚的知道生成式AI服务会如何处理输入进模型的数据以及查询结果。企业查询本身也是敏感的,应该成为数据保护计划的一部分。如果从外部视角看,从用户提出的问题中推断出很多信息,很多情况下,这些都是非常敏感的。

第三,生成式AI模型的输出是否足够准确?这是最重要的一点,从安全角度来看,生成式AI的使用场景定义了风险,也就是说不同的场景对准确度的要求是不同的。如果你正在使用大型语言模型来生成定制代码,那么你就必须要确认这个代码是否写得足够好,是否遵循了你的最佳实践等等。

企业借助生成式AI开展创新,应牢记三大安全建议

如今,亚马逊云科技在全球已经拥有数百万客户,每天追踪的事件达数十亿条,这让亚马逊云科技能检测到更多的安全威胁。从2010年加入亚马逊以来,Steve Schmidt在亚马逊云科技首席信息安全官任职长达12年,并于2022年起成为亚马逊首席安全官。

Steve Schmidt表示:“安全团队的工作是帮助企业了解生成式AI等创新技术的好处和风险,以及如何利用它来提升企业的安全效率。”在此过程中,Steve Schmidt也积累了丰富的经验,并给出了企业在利用生成式AI进行创新时的三条安全建议:

首先,安全团队说“不”很容易,但这不是正确的做法。亚马逊培训内部员工了解公司关于使用人工智能的政策,让他们知道如何安全地使用它。同时,亚马逊安全团队还会指导员工使用符合公司人工智能使用政策的方式。对于安全团队来说,说“不”很容易,但对于所有业务团队、开发人员等来说,绕过安全团队也同样容易。因此,Steve Schmidt认为企业在使用生成式AI时最好的做法是教育、告知、指导、设置防护栏,并使用能够满足预设目标的云服务,同时还需要精确了解这些服务如何使用和保留数据。

其次,可见性。企业需要通过可见性的工具来了解员工如何使用数据,并限制在工作需求之外的数据访问,同时还会监控他们如何使用外部服务访问这些数据。如果企业发现有不符合政策的情况发生,例如在涉及到非工作需求之外的敏感数据访问,就需要停止这种行为。在其他情况下,如果员工使用的数据不太敏感,但是可能会违反政策,企业同样要主动联系员工去了解真实目的并寻求解决之道。

第三,通过机制解决问题。机制是可重复使用的工具,可以随着时间的流失精确地驱动特定的行为。例如,当员工违规操作时,系统会通过如弹窗来提示员工,并建议使用特定的内部工具,并就相关问题进行报告。

从安全文化到安全服务,全方位护航生成式AI创新

Steve Schmidt之所以能够对企业如何规避应用生成式AI带来的安全风险洞若观火,与一直以来亚马逊云科技倡导的安全文化,以及打造的安全服务密不可分。作为云计算的开创者的引领者,安全是亚马逊云科技的最高优先级,亚马逊云科技构在实践中总结经验,构建了行之有效的安全文化。

作为亚马逊安全文化的践行者和倡导者之一,Steve Schmidt曾表示:“我们不仅在前所未有的大规模企业中构建和运行起对应的超大规模安全体系,而且还形成了一种在安全领域中非同寻常的文化。我最引以为豪的事情就是在企业中塑造正确的文化。”

根据亚马逊云科技的安全文化,安全是公司每一个人的责任,亚马逊云科技每周有一次安全会议,以确保业务需求并关注安全问题。同时,亚马逊云科技通过自动化工具来提高效率和竞争力,并将安全嵌入整个开发过程,让开发者可以清楚了解安全的边界,使得开发过程更安全,审查效率也更高。

在亚马逊云科技,安全是一条基线,并对业务产生尽可能小的影响。亚马逊云科技的安全团队不会告诉业务部门:“这个不能做,那个不能做”。而是会说:“这个事情可以这样来做”。为了保持安全团队成员的多样性,亚马逊云科技的安全团队成员通常具有不同的性格或不同的背景和文化。

在亚马逊云科技2023 re:Invent 全球大会上,亚马逊云科技就推出了主要具有生成式AI能力的安全服务能力。其中,Amazon Inspector的Amazon Lambda函数代码扫描功能现在能够利用生成式AI和自动推理实现代码修复;Amazon Detective能够使用生成式AI自动分析调查发现组并以自然语言提供洞察,加快进行安全调查。

不仅如此,亚马逊云科技提供的Amazon CodeWhisperer代码助手以及新型生成式AI助手Amazon Q,可以帮助企业生成更好的代码或在软件工程师编写代码时直接提供建议。除此之外,亚马逊云科技通过与英伟达合作,实现从硬件层面到系统的部署和终止的全过程安全;通过与派拓网络合作,打造数字安全平台产品组合,帮助企业构筑安全防线。

由此可见,为了帮助企业更加从容地借助生成式AI开展创新,规避由此所产生的安全风险,亚马逊首席安全官不仅深入剖析了安全问题,还给出了切实可行安全建议;与此同时,亚马逊云科技还分享了自身的安全文化,并推出了一系列安全服务,真正做到了“授之以渔”和“授之以鱼”。这些无疑都将进一步助力企业在生成式AI时代的转型升级。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
上一篇 2024年4月25日 下午7:18
下一篇 2024年4月26日 下午8:39

相关推荐

  • ​极视角算法商城完成数亿元C轮系列融资,平台已聚集20万算法开发者

    这半年以来,极视角重点放在了AI全场景落地和人才培养两方面。

    2021年9月15日
  • 人工智能如何改变招聘行业?

    机器学习和人工智能技术的使用使这些平台能够了解每个组织的独特需求,并提供量身定制的入职体验,同时还能扩展流程以适应大量新员工。最终,通过优先考虑员工参与度和创造积极的第一印象,企业可以为与新员工建立成功而有效的长期关系奠定基础。

    2024年6月12日
  • 西雅图销售科技巨头Outreach前CEO再创业:聚焦 AI Agent 商业化

    曼尼·梅迪纳创立新公司 Paid,致力于为人工智能开发者构建商业基础设施,已获得超千万美元融资。

    2025年4月8日
  • 分析师观点:解读 Amazon Bedrock 和 Anthropic的Claude 3 模型家族

    亚马逊云科技最近宣布在其Amazon Bedrock平台上扩展了Anthropic的Claude 3系列模型,标志着这一旅程的一个重要里程碑。本博客旨在解读这一声明及其在更广泛的人工智能生态系统中的意义,并与微软和谷歌等科技巨头的相关产品进行竞争力定位。

    2024年4月19日
  • “公司不卖了,我们要去排IPO”

    2025年上半年,IPO市场显著回暖,特别是硬科技领域表现突出,科技、消费、生物技术与医疗健康等行业成为资本市场的关注焦点。IPO市场的活跃也带动了一级市场投融资活动的复苏,尤其是人工智能领域的人才需求旺盛。

    2025年5月13日
  • 戴尔、现代 AutoEver 和英特尔会盟,剑指AI 边缘生态系统

    这一合作将有助于制造商更快速、更准确地收集和分析数据,从而做出更迅速的决策。预计到2024年,全球边缘计算市场将显著增长,而人工智能将在这一增长中扮演关键角色。戴尔的这些合作项目不仅展示了其对技术创新的承诺,也显示了自己在积极争取“推动制造业数字化转型方面”的领导地位。

    2024年4月24日
  • 中科院院士陈十一:《工业软件赋能数智未来》

    真实世界验证离散世界,离散世界模拟真实世界、指导真实世界,核心就是把真实世界离散化,将离散世界的数字化整合在一起。

    2023年10月10日
  • “人工智能+”赋能制造业,华为如何助燃新质生产力?

    如今,人工智能技术正在给制造业带来前所未有的变革,从产品设计到工艺设计,从生产线优化到质量管控,从设备管理到供应链管理,人工智能正在重塑制造业的未来,全面激发新质生产力。为了进一步加速人工智能在制造业的场景化应用,华为也将基于自身技术创新能力和行业经验积累,不断深化与产学研伙伴的合作,共同深耕制造,让智造生根。

    2024年5月25日
  • 科研新范式崛起,华为智算实验室加速行业智能化转型

    未来,华为不仅需要坚持自主创新并持续提升产品和平台性能,为科技创新提供更强有力的支撑;也需要不断将强大的科技实力与更多的业务场景融合,进一步增强智算实验室解决方案的业务场景应用能力,让更多科研机构与实验室享受到AI应用带来的技术红利,从而更加高效地开展科技创新,为行业智能化变革注入源源不断的新动力。

    2024年11月14日
  • 持续夯实算力基座,助力高校科研创新

    当下,以AI4S为代表的科学计算,在科研创新中的应用方兴未艾。而华为通过在算力底座上的持续创新,将为高校科研创新带来更加强大的算力支撑,以推动AI4S的落地;同时,华为也将继续发力科研创新生态建设,推动高校科技成果向现实生产力的转化,服务国家战略和区域优势产业发展。

    2024年12月17日

发表回复

登录后才能评论
分享本页
返回顶部