AI Infra 人才薪资飙升,推理优化与模型量化方向年薪可达七八百万

做好 Infra 降本,算力开支能省下至少几千万的成本,省下的每一分都是实打实的利润。

AI 基础设施(AI Infra)工程岗位的薪资水平正在经历一轮显著上涨。据行业人士透露,此前在大厂年薪普遍不超过 300 万元的 AI Infra 岗位,目前优秀人才的市场报价已达到七八百万元。虽然与算法岗 500 万至 1400 万元的薪酬区间仍有差距,但这一变化标志着 Infra 人才在市场中的价值被重新定价。

上市人力资源服务公司科锐国际华南区 AI 业务资深专家卢炳宁观察到了这一趋势。他举例称,2024 年在深圳接触的一位 Infra 候选人年薪为 30 万元,2025 年涨至 50 万元,今年通过跳槽直接达到 100 万元。卢炳宁表示,Infra 人才从独角兽跳槽至互联网大厂薪资翻倍的情况并不少见,从大厂跳槽至独角兽创业公司薪酬包涨幅可达 2 至 3 倍,其中期权占比较大。

这轮薪资上涨的触发点被认为是 DeepSeek R1 的发布。2025 年初 R1 引发行业关注后,市场开始重新审视 Infra 优化对模型推理成本和效率的实际影响,AI Infra 人才随即成为各家模型厂商争夺的对象。卢炳宁称,这种抢人状态一直延续至今。

AI Infra 人才的核心价值在于提升 GPU 算卡的利用率,直接为企业降低算力成本。2022 至 2024 年期间,国内大模型行业处于“百模大战”阶段,资本和团队关注重点集中在模型效果对标和应用落地,算法岗和产品岗获得主要资源倾斜,Infra 团队的价值被等同于运维支持。一位大模型实验室算力调度专家表示,当时只要集群稳定运行、账单不失控,Infra 团队即算完成任务,算力浪费和调度效率问题被暂时搁置。

DeepSeek R1 的出现改变了这一局面。行业开始关注 DeepSeek 如何以较少的人力实现高效的模型推理和成本控制,答案的一部分指向 Infra 层面的降本能力。大模型推理的算力开销巨大,GPU 集群的采购、租赁和电费往往占据 AI 业务成本的六成以上。据估算,做好 Infra 降本,算力开支可节省至少几千万元。在具体优化方向上,PD 分离、专家并行、VLLM、SGLang 等方案降本效果最为显著。

行业数据显示,GPU 的实际利用率长期偏低,平均仅在 25% 至 27% 之间。上述算力调度专家指出,优秀的 Infra 团队能够将利用率提升至 40%,这十几个百分点的差距构成了技术壁垒。以 8 卡 B 卡服务器为例,国内现货交割价约 1300 万元,三个月后期货价格约 1100 万元,节省 8 张卡即可省出上千万元成本。

更深层的变化在于,大模型技术竞赛的重心正从算法创新转向底层系统工程。多位受访者表示,随着开源模型普及和 Transformer 等基础架构趋于成熟,行业比拼重点已从基础预训练转移至工程化落地和推理优化。一位大模型独角兽资深 AI Infra 工程师指出,当前训练环节中真正具有创造性的工作已经减少,大量工作集中在数据清洗、数据配比实验和工程调优,这些工作虽不涉及前沿算法,却能带来可量化的成本收益。

然而,薪资翻倍并非普遍现象。StartLux 联合创始人兼 CTO 郭权玮认为,市场将少数高薪案例误读为行业常态。脉脉平台数据显示,中国大陆 AI Infra 人才月薪约为 7.3 万元,略高于大模型算法岗位。但平均数掩盖了内部分化:真正获得薪资大幅上涨的,是能够显著提升算卡利用率的人才,主要集中在推理优化和模型量化两个方向。而从事 VLLM、SGLang 等推理框架部署的普通 Infra 岗位,月薪大多在 4 万至 5 万元之间。

郭权玮表示,能够扎实完成算子优化、推理引擎量化并真正提升吞吐量的人才,薪资翻倍并不为过,但这部分人在市场中占比有限。他估计,这类人才大多在 Infra 领域深耕了 5 至 10 年,早期在大型互联网公司从事分布式系统、高性能计算、搜索推荐或数据库相关工作,起薪本就较高,经验难以被替代。对于刚毕业或仅有少量工作经验的新人而言,要求两倍薪资缺乏合理性。

从行业整体来看,AI Infra 岗位的价值重估反映了大模型行业从算法驱动向工程效率驱动转型的趋势。当模型能力和产品形态逐渐成熟,企业对算力投入产出比的关注度持续上升,Infra 团队的优化成果更容易被量化和衡量。这一结构性变化意味着,具备深厚系统工程经验、能够将 GPU 算力压榨到极致的人才,将在未来一段时间内持续获得市场溢价。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

赞 (0)
华为黄宇:韬定律最大挑战在EDA工具,四层架构覆盖器件到系?
上一篇 3小时前
Dataweavers 将 SitecoreAI 主权云托管扩展至中国、中东和加拿大市场
下一篇 3小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部