中诚华隆发布HL200推理芯片 单卡FP8算力2P 集群可扩展至万卡

该芯片的单卡FP4算力为4P、FP8算力2P,FP16/BF16算力0.5P,能效比达5.12 TFLOPS/W,并原生支持FP4、FP8低精度推理。

8月22日消息,中诚华隆计算机技术有限公司(以下简称“中诚华隆”)今日正式推出HL200推理芯片及配套的超节点智算集群方案。该芯片面向AI推理场景设计,单卡FP4算力达4P(即4 PFLOPS),FP8算力为2P,FP16/BF16算力为0.5P,能效比达到5.12 TFLOPS/W,并原生支持FP4、FP8低精度推理运算。

据公开信息,HL200超节点智算集群方案在单机柜内支持64张GPU互联,单节点最高可实现1024卡纵向堆叠,横向扩展能力最高可达10240卡规模。这一架构设计旨在满足大规模模型推理对算力密度和互联带宽的需求,适用于智算中心、行业大模型推理等场景。

中诚华隆成立于2017年10月,是一家以混合所有制方式组建的科技企业。公司聚焦自主可控的通算、智算、超算、存算基础设施建设,业务覆盖芯片设计、整机制造到解决方案交付的全链条,具备“芯片+整机+解决方案”全栈自主可控能力。此次发布的HL200推理芯片和超节点方案,是其面向AI算力市场的一次重要产品布局。

从行业背景看,随着大模型应用从训练走向规模化部署,推理侧算力需求持续攀升。低精度推理(如FP4、FP8)因其在能效和吞吐量上的优势,正成为推理芯片设计的主流方向。HL200在能效比上的表现,以及支持万卡级横向扩展的集群方案,显示出中诚华隆在推理算力基础设施上的技术取向。

值得关注的是,当前国内AI芯片市场参与者众多,既有传统芯片设计企业,也有新兴的算力方案提供商。中诚华隆以混合所有制模式运营,其产品定位更侧重于满足政企客户对自主可控算力基础设施的需求。HL200的发布,或将为国内推理算力市场增加新的选择。

不过,该芯片的实际量产进度、生态适配情况以及客户落地案例尚未披露。在竞争激烈的AI芯片领域,中诚华隆能否凭借HL200在推理市场站稳脚跟,仍有待市场验证。后续,企服科学将持续关注该产品的商用进展及其在智算中心项目中的应用情况。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
AI时代B2B软件公司销售团队规模不减反增,门槛从3000万美元推迟至1亿美元ARR
上一篇 4小时前
四川警方查处利用AI合成虚假影像骚扰他人案件,嫌疑人被行政拘?
下一篇 4小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部