首页 / 资讯详情

从百美元到数千美元,AI互联为什么越卖越贵?

雷锋网 2026-09-17 02:03 中文

摘要

2026年的CIOE中国光博会,人潮如织。社交媒体上甚至有人开出2500元一场的讲解费,希望找到业内人士陪同参观。走进场馆后更直观的感受是,今年光博会几乎所有与AI相关的环节都在升温:从光模块、光器件,到高速互联和数据中心基础设施,AI需求正在把原本相对垂直的光通信产业链整体推向更高热度。Astera Labs也出现在今年光博会。这家2017年成立的美国半导体公司,最早从PCIe Retimer切入高速互联,如今产品已经延伸至铜互联、光互联和机架级连接;截至九月,这间公司市值已接近500亿美元。“算力需求越高,处理器之间的数据交换就越需要快速传输,互联这套‘神经系统’也必须跟上。”Astera Labs总裁兼COO Sanjay Gajendra对雷峰网表示。这股热度背后,是AI基础设施规模持续扩张带来的互联压力。当GPU从几颗扩展到几十颗甚至成百上千颗,处理器之间的数据传输效率,开始直接影响整套基础设施的性能。铜光之争,最后要算Token成本为什么早在2017年,大语言模型尚未得到广泛应用时,Astera就开始押注互联方向?“我们当时判断,那些为上一代处理器设计的连接架构,在单台服务器拥有10个乃至今天数十个处理单元时,将无法继续支撑系统需求。”Gajendra说。当时常规服务器通常围绕1至2颗CPU设计,存储、网络等设备更多作为外围I/O存在;但随着CPU、GPU、SmartNIC等越来越多处理器开始同时进入服务器,系统内部需要交换的数据量迅速上升。“就像一台机器里有了很多个‘大脑’,原本围绕少量处理器设计的互联架构,已经难以继续支撑它们之间的数据交换。”Gajendra解释。来到2026年,这一问题随着AI的发展进一步放大。Gajendra将今天互联架构面临的挑战概括为三个变量:速率、规模和功耗。Astera Labs成立前后,PCIe单通道速率还处在8 GT/s级别,如今已经提升到64 GT/s;AI系统也从早期4至8颗GPU,向数十、上百及更大规模扩展。“为了跟上当前AI部署的步伐,数据传输速度每年都在翻倍。”Gajendra说。规模扩张带来的同时,通信延迟必须尽可能低,同时还要维持内存一致性和处理器之间的同步;系统规模扩大后,互联本身的功耗也产生了约束。这种扩展带来的压力,已经对铜光边界带来了改变,打破了短距离更多使用铜、长距离转向光互联的惯性思维,距离已经不再是决定使用光还是铜的主要变量。Gajendra认为,决定机架内部何时进一步从铜转向光,最核心的两个变量是传输速率和GPU规模。对于200G/lane级别的连接,铜互联依然可以胜任;进一步走向400G/lane之后,光将更多进入机架内部,GPU数量增加带来的连接密度和散热压力,将进一步影响客户选择铜互连还是光互联。除了以上两点,让铜光边界变得更复杂的,还有成本。所有厂商最终都要算一笔账:不同连接方式,对应的整套系统Token成本究竟是多少。光博会现场,Astera Labs的工程师告诉雷峰网,下一代AI系统中,铜和光不会简单形成替代关系。大量短距离连接仍然适合使用成本更低、技术更成熟的铜;而当系统扩大到数千张GPU、跨越多个机架时,衡量连接方案的指标会进一步变成整套系统的单位Token成本。工程师进一步提到,以英伟达NVL72的72-GPU scale-up域为参照,当计算需求继续扩大后,更大的scale-up域可能减少数据频繁经过scale-out网络。后者通常还需要经过网卡、以太网或InfiniBand交换机等多个子系统,引入额外延迟和系统复杂度。借助光互联扩大scale-u

阅读原文(雷锋网)→

本站为资讯聚合平台,仅展示标题与摘要,原文版权归原发布方所有;如有侵权请联系我们删除。