首页 / 资讯详情
商汤大装置首提TPW，重新定义AI基础设施效能标尺
摘要
如何用有限的能源和成本，产出更多Token？这是Token经济时代，AI基础设施面临的新课题。Token消耗指数级增长，算力需求持续攀升，随之带动的是AIDC用电量在全社会用电结构中的占比快速提高。行业对AIDC关注的焦点不再只是“谁拥有更多算力”，更开始关心“谁能以更低成本、更高效率生产更多高质量Token”。在商汤大装置智算中心总经理林海看来，Token经济时代，AIDC需要被重新理解为连接电力与Token的价值平台，能把“算力”和“电力”的协同优化做到什么程度，成为决定未来商业竞争力的关键变量。 【商汤大装置智算中心总经理林海】 01 Token经济下，只看PUE为什么走不通了？AI基础设施的效率，究竟应该如何衡量？又该如何持续提升？很长一段时间里，这个问题的答案是PUE。PUE作为数据中心总能耗与IT设备能耗的比值，长期以来被行业视为衡量数据中心能效的“黄金标准”。过去十几年，行业几乎所有的节能努力都围绕PUE展开，从机房气流组织优化到制冷系统架构革新，从自然冷却利用到液冷技术规模化部署，每一轮的目标都是把PUE压得更低。但现在AIDC的服务模式开始从“卖卡时”转向“卖Token”。生意的计量单位变了，评价效率的标尺自然需要同步迭代。PUE更关注“用了多少电”，却回答不了“这些电产出了多少有效价值”，这正是当前AIDC行业正在共同面对的认知空白。根源在于，现有的产业分工下，电力投入与Token产出的“数据链路”长期处于断裂状态。四层分工各自为政，每层只优化自身环节指标，全局最优也就无从谈起。更深层的矛盾，来自旧效率标尺的局限性，PUE下降并不必然意味着总能耗或Token成本同步下降。林海举例说，调高送风温度可能降低制冷能耗，让PUE账面数据更好看，却会使GPU与服务器风扇功耗上升，最终总用电未必下降，Token产出成本甚至可能升高。既然PUE无法准确回答“这些电创造了多少价值”，行业就需要一个新的度量标尺。 02 从PUE到TPW，重构AIDC的效能标尺基于此，商汤大装置提出了一个全新的效率指标：TPW（Tokens Per Watt），以单位电力成本产生的有效Token作为核心指标，统一衡量算力效率、能源效率与业务价值。简单来说，PUE衡量电力使用效率，TPW则进一步回答每一度电最终产生了多少有效Token，并将分时电价等因素纳入经济性评价，推动行业的关注重点从“用了多少电”，转向“这些电形成了多少有效产出”。TPW并非对PUE的简单否定或替代，而是在PUE基础上，进一步打通从电力投入到Token产出的全链路效率评价。过去分散在各环节的优化动作，包括电价、储能、PUE、GPU利用率与模型效率，由此开始指向Token产出这同一个价值指标。对行业而言，TPW的价值不止于一个新指标，更在于它建立了一套统一的价值语言。电网、IDC、算力平台、模型厂商，可以在同一个标尺衡量下进行结果优化，算电协同也变成了可度量、可复制、可商业化的系统能力。03 算电协同如何实现系统级效能优化有了新的度量标尺，接下来的问题是：如何让AIDC在既定电力条件下产出更多Token？商汤大装置给出的答案，并不是简单增加算力或扩容电力，而是通过算电协同Agent，对算力任务、能源供给和基础设施进行统一编排调度，充分释放分时电价、需量控制和需求响应中的时间价值，每一度电发挥更高效能。这套路径，分为数据贯通、任务调度和算电协同三个层面：第一步：打通数据，建立可观测底座优化的前提，是可观测。传统IDC中，电力系统关注楼栋、机柜、服务器等物理设备，算力平台关注Job、Pod、No