据《商业内幕》报道，围绕“AI是否将导致人类走向末日”的争论在过去一周迅速升温，但多名研究人员指出，AI在数字世界中的能力与真正对现实世界造成伤害之间仍存在显著鸿沟，其中最极端的情景被夸大了。
研究人员以AI设计致命生物病毒为例说明这一观点。AI确实可以在计算机上设计病毒序列，但真正制造病毒仍需现实世界中的设备和流程。曾制造DNA合成仪并参与病毒工程的谷歌高级研究工程师安塞尔姆·列夫斯卡娅指出，即使AI生成了病毒序列，也必须先在实验室中完成实际组装，并通过相应系统制造出病毒颗粒，随后还需经过大量筛选和测试，确认病毒能否复制、传播、逃避免疫系统并持续保持危险性。她表示，这些特性取决于复杂的生物学过程，并非坐在计算机前就能直接设计出来。
阿联酋穆罕默德·本·扎耶德人工智能大学校长、卡内基梅隆大学计算机科学教授邢波更为直接地表示，生成一份病毒蓝图与真正制造出病毒“完全是两回事”，二者的差别在于材料、制造和真正的生物学可行性。他认为，将二者直接画上等号，“要么是在故意撒谎吸引眼球，要么就是真的无知”。
研究人员指出，同样的逻辑并不限于生物领域。AI要将一项计划转化为现实伤害，还必须能够接触实体设备、资金、计算机系统或人员。Manifold Security CTO兼联合创始人奥列克桑德尔·亚列姆丘克主张，再强大的技术也仍然受制于谁掌握它以及如何使用它。部分研究人员还强调，应当区分“人类利用AI执行有害任务”和“AI自主采取行动伤害人类”这两种情况，目前与AI系统有关的许多现实危害，起点仍然是人类给出的指令。
AI公司Cohere CEO艾丹·戈麦斯表示，围绕AI生存风险的争论“已经过度滑向科幻小说”。对于OpenAI智能体今年7月测试期间入侵Hugging Face平台的事件，戈麦斯认为，本质上只是一个处于“安全性不足”沙箱中的智能体在执行网络安全任务。瑞士人工智能实验室IDSIA科学主任于尔根·施密德胡伯则表示，目前很多风险其实来自人类利用AI系统实现有害目的，很多人混淆了“人类把AI作为工具使用”与“人工科学家自己设定目标、设计实验”这两件事。
佐治亚大学法学院助理教授马特乌什·布瓦什奇克提醒，即使对人类灭绝情景持怀疑态度，也不意味着可以忽视AI眼前更现实的风险。即便最极端的情景仍充满不确定性，自主AI依然可能加剧网络攻击、监控和其他危害，“这并不是说我们不应该监管技术，也不是让我们把头埋进沙子里。这两种说法本来就不是非此即彼。”
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
