AI公司安全事件与数学突破被指炒作,专家称责任归属遭模糊

AI 公司通过炒作模型失控也将自己置身事外,将责任归咎于大模型而不是公司本身,逃避应承担的责任。

近期,围绕AI模型能力的一系列高调宣称引发业内争议。Anthropic声称其模型Claude Mythos在发现软件漏洞方面胜过大多数安全专家,随后OpenAI与Hugging Face发生安全事件,Anthropic和Meta也相继披露各自模型出现类似问题。此后,Anthropic宣布其模型在数学领域取得突破,OpenAI亦作出相同表态。

Anthropic工程师Jacob Coxon在离职时公开表示,该公司与OpenAI正“冲向自我进化的超级智能,并拿我们的生命在赌博”,该言论被媒体广泛引用。相关报道普遍沿用了AI公司对自家软件的拟人化叙事,将模型描述为不仅功能强大,且已初具通用人工智能雏形。

但深入研究的专家给出了不同结论。网络安全专家指出,涉及模型的安全事件更多源于OpenAI的疏忽大意,未能采取基本安全措施,而非“模型失控”或“AI智能体创造文明”。在数学领域,OpenAI模型解决数学难题的原创性同样存疑,数学家已公开警告AI企业利用其专业领域进行炒作。

更值得关注的是责任归属问题。AI公司通过渲染模型失控,将自身置于事外,把责任归咎于大模型而非公司本身。以OpenAI为例,当其开发的恶意软件被用于入侵另一家公司时,媒体、名人和议员的讨论集中在“失控模型”上,而非OpenAI应承担的责任,公众注意力被转移至虚构的“超级智能”恐惧。

对于企业服务与AI基础设施领域的从业者而言,这一现象提示:在评估AI安全与能力宣称时,需区分模型实际表现与企业营销叙事,关注厂商在安全措施、责任承担方面的具体行动,而非被拟人化表述所引导。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
YouTube升级AI创作工具,推出频道优化智能体与多版本视频测试功能
上一篇 4小时前
Anthropic工程师解释Claude写作能力下滑:模型被训练成写给AI看而非写给人看
下一篇 3小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部