亚马逊CEO贾西:AI推理成本需降至十分之一才能普及企业软件,自研芯片成关键

制约企业采用AI的主要因素是推理成本,如果引入AI带来的收益不足以抵消更高的运营费用,企业就没有多少动力重构现有软件。

亚马逊CEO安迪·贾西在风险投资机构a16z于10月23日发布的采访中表示,AI推理成本仍然过高,若要推动AI在企业软件中广泛应用,成本需降至目前的约十分之一。他透露,亚马逊自研芯片有望在降低推理成本方面发挥关键作用。

贾西将当前AI需求结构比作一副“杠铃”:一端是AI实验室,其算力消耗规模“前所未见”;另一端是企业客户,主要将AI用于客户服务、欺诈检测等具体任务。他认为,真正尚未充分开发的是中间市场,即企业日常使用的各类软件。这一领域目前尚未广泛引入AI,但未来最大的AI需求可能正来源于此。

制约企业采用AI的核心因素在于推理成本。AI模型每回答一个问题、完成一项任务均需消耗算力,若引入AI带来的收益不足以抵消更高的运营费用,企业便缺乏重构现有软件的动力。贾西表示:“在我看来,要让AI得到尽可能广泛的应用,推理成本仍然高了一个数量级。”

在基础设施投入方面,亚马逊今年计划投入2200亿美元资本开支,但仍无法建成足够的基础设施满足AI需求。贾西透露,2026年的主要算力供应额度已基本订满,2027年的大部分已被客户预订,2028年也有相当一部分售罄。他认为,在市场需求如此旺盛的背景下,亚马逊继续加大投入不会造成浪费。

贾西以亚马逊此前的经历作类比。早年英特尔主导云服务器处理器市场,亚马逊希望以同等成本获得更高计算性能,却难以说服英特尔优先满足其需求,最终决定自行开发Graviton处理器。他认为类似的故事正在AI领域重演。当前AI芯片市场由英伟达主导,亚马逊则推出自研Trainium芯片,希望为客户提供成本更低的选择。贾西在采访中未直接点名英伟达,仅强调市场上的主导供应商仍是亚马逊的重要合作伙伴。

据其介绍,Trainium的性价比较同类处理器高出约30%至40%,客户花同样的钱可获得更多算力。亚马逊此前披露,Trainium已获得超过2250亿美元的未来收入承诺,其中包括与Anthropic和OpenAI达成的协议。贾西表示,芯片业务在降低推理成本方面发挥着重要作用。

从行业视角看,推理成本已成为企业级AI规模化落地的核心瓶颈。贾西的表态反映出云厂商正从算力供给端入手,通过自研芯片压低单位推理成本,进而撬动企业软件这一尚待开发的中间市场。若推理成本按预期下降一个数量级,企业软件的重构节奏与AI渗透率或将迎来明显变化,而自研芯片的性价比优势也将成为云厂商争夺AI workloads的重要筹码。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
特斯拉Optimus启动弗里蒙特工厂生产,车企竞逐人形机器人赛道
上一篇 1小时前
SIG海纳亚洲独家投资,数划科技完成数千万元Pre-A轮融资
下一篇 2022年2月28日 下午9:19

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部