首页 / 资讯详情
大模型「土木系」终翻身：AI Infra 年薪冲到 800 万？
摘要
“以前 AI 业内把做 Infra、做工程的叫‘计算机里的土木系’，干着最脏最累的活，拿垫底的钱。谁能想到他们现在这么值钱？”某大模型独角兽高管刘立向雷峰网感慨道。他抛出一组薪资行情对比：AI Infra 工程岗以前在大厂，年包基本到不了 300 万；现在，好的 Infra 人有能开到七八百万的。比起算法岗（500~1400 万）还有差距，但已经算打了个漂亮的翻身仗。上市人力资源服务公司科锐国际华南区 AI 业务资深专家卢炳宁，也见证了这场狂飙：“2024 年在深圳见一个做 Infra 的候选人，他年薪还是 30 万；2025 年涨到 50 万；今年一跳槽，直接 100 万。”这不是个例。“Infra 人才从独角兽跳去互联网大厂，薪资翻倍的有；从大厂跳去独角兽创业公司，薪酬包能涨到 3 倍左右，不过期权占大头。3 倍属于个例，2 倍更常见。”他补充道。这轮涨薪的起爆点，是 DeepSeek R1 的发布。“2025 年初 R1 爆火，让大家看到了 Infra 提升的价值，AI Infra 人才立马被各家模型厂商疯抢，这种状态一直持续到现在。”卢炳宁表示。然而，薪水翻倍从来不是雨露均沾。当市场的真金白银砸向这群人，究竟是什么在为他们定价？又是哪类 Infra 人，吃到了这轮红利里最肥的那块肉？01“土木系”，凭什么拿高薪？什么是 AI Infra 人才？简单来说，AI Infra 人才做的是怎么把昂贵的 GPU 算卡，榨出尽可能高的利用率，实打实替公司省钱。卢炳宁告诉雷峰网，2022 到 2024 这三年，Infra 岗基本是个“配角工种”。ChatGPT 出来后，国内随即进入“百模大战”和应用尝鲜阶段。资本和团队盯的是两件事：模型效果打平 ChatGPT，尽快跑出 Killer App。关注度也好，高薪也好，都优先给了算法岗和产品岗。在“先上车再买票”的焦虑下，工程效率的优先级并不高，背后的算力浪费和调度效率问题被暂时掩盖。“只要集群别崩、账单别炸，就算交差。Infra 工程这类支撑团队的价值，当时被等同于运维，没人当回事。”某大模型实验室算力调度专家张桐坦言。反转发生在 DeepSeek R1 出来之后。据卢炳宁回忆，R1 发布后，行业都在琢磨一件事：DeepSeek 就那么点人，却做出了那么好的产品，赚了那么多钱，他们到底是怎么做到的？后来答案的一部分，落在了 Infra 降本上。大家发现，大模型推理烧的是真金白银，而且常常把账单烧穿。这时候做 Infra 降本，省下的每一分都是实打实的利润。于是各家开始盯着 DeepSeek 挖人，薪酬基本都是敞开了聊。做好 Infra 降本，算力开支能节省上千万“Infra 现在的角色，就是给厂商省钱。省钱也是在赚钱。”卢炳宁说。能省多少？据他估算，做好 Infra 降本，算力开支能省下至少几千万的成本。落到具体方向上，算子是把单张卡榨到极致，推理是把各类资源调度结合起来，做成本优化、提高有效利用率。其中 PD 分离、专家并行、VLLM、SGlang 这几类优化，降本降得最狠。要知道，大模型公司最贵的开销，几乎都压在这些卡上。业内流传过这样一笔预算配比：AI 模型公司每投 100 块到 AI 训练上，40 块花在算力，30 块花在人才，20 块打广告，剩下 10 块买数据。训练一次大模型、跑一晚推理，GPU 集群的采购、租赁和电费，往往吃掉 AI 业务成本的大头，有的公司甚至占到 6 成以上。可钱花出去，卡却常常在空转。张桐告诉雷峰网，行业里 GPU 的实际利用率长期偏低，平均只在 25% 到 27%，也