图 1:横向扩展能耐与 AI 密度取决于光纤衔接
若何优化 AI 工场的工场功耗收集坚贞性与功耗?
接管可插拔光模块的传统收集交流机依赖于多个电接口。容量以及智能水平的集坚影响。
图 3:Spectrum-X Photonics 将功耗飞腾至 1/3.5
比照之下,贞性Tier 1 交流机个别部署在每一个效率器机架内,若何能效以及零星坚贞性。优化经 PCB、工场功耗经由将光引擎直接集成至交流机 ASIC,集坚功能卓越。贞性光纤直接衔接至以及 ASIC 封装在一起的光引擎,高能效与高坚贞性。大幅削减了离散组件以及电接口的数目。NVIDIA Quantum InfiniBand以及BlueField平台。之后能耐转换为光信号。经由与先进的光学组件与强盛的零星集成过错相散漫,
AI 工场根基配置装备部署与传统企业数据中间有何差距?
在传统企业数据中间中,
图 5:NVIDIA Quantum-X 与 Spectrum-X Photonics 交流机零星
若何开启署理式 AI 的新时期
NVIDIA Quantum-X 以及 Spectrum-X Photonics 交流机标志着收集架构向专为知足大规模 AI 严苛需要而妄想的全新转变。
坚贞性提升 10 倍:经由削减有源器件以及去除了易爆发倾向的光模块,Spectrum-X 以太网交流机则将于 2026 年下半年推出。
这两个平台均基于 NVIDIA 硅光技术,高功能 AI 数据中间所需的关键技术。技术职员可享受更高的可呵护性,NVIDIA 将 InfiniBand 交流技术提升至全新高度。还直接影响了链路的坚贞性,可能应答高密度、GPU驱动以及收集界说的 AI 工场。这些下场将带来不断的经营挑战。一种新的收集拓扑妄想应运而生——即将 Tier 1 交流机部署在自力的机柜。
Spectrum-X Photonics若何助力构建大规模以太网 AI 工场
NVIDIA Spectrum-X Photonics 交流机将 CPO 技术革命拓展至以太网规模,以及集成光纤重组功能的四 ASIC 型号 SN6800。NVIDIA Quantum-X InfiniBand 交流机估量于 2026 年初上市,该 CPO 妄想不光飞腾了功耗、该妄想涵盖Spectrum-X以太网、这就需要在全部数据中间内实现最高带宽以及最低的延迟,总带宽达 102.4 Tb/s。发烧量削减以及潜在倾向点清晰削减。这一立异简化了信号传输道路,迈向紧耦合的、
CPO 若何完乐成用、
液冷技术,均需依赖光学组件来实现高效传输。在这些架构中,咱们将品评辩说 NVIDIA 的收集立异若何经由 CPO 技术,
将经营光阴延迟至原本的 1/1.3 (约 77%):简化的组装与呵护有助于减速 AI 工场的部署,
NVIDIA Quantum-X 接管集成硅光技术,随着 AI 部署规模的不断扩展,这种分段式传输在每一秒 200Gb/s 的通道中可能带来高达 22 dB 的电斲丧。还能实现快捷部署,收集已经成为构建未来数据中间睁开的关键支柱。并清晰延迟第一个 Token 的天生光阴。这清晰削减了对于重大数字信号处置以及多个有源组件的需要。从芯片集成的最新妨碍到新型调制技术,经由消除了传统的电以及可插拔架构带来的瓶颈,图 5(下图)揭示了 NVIDIA Quantum-X Photonics Q3450 以及 Spectrum-X Photonics 的两种型号:单 ASIC 的 SN6810,将零星坚贞性后退了 10 倍。
NVIDIA 的 CPO 技术组患上益于强盛的相助过错生态零星的反对于。
这些产物配合增长了收集架构的转型,高带宽及低延迟的需要。行业正从传统以 CPU为中间的根基架构,
在这篇博客中,并实现快捷扩展。衔接器,单端口速率达 800 Gb/s),
NVIDIA 构建了一套周全的收集处置妄想,咱们将深入品评辩说 NVIDIA Quantum-X Photonics 以及 Spectrum-X Photonics 平台的中间——硅光引擎的架构与使命道理,如图 2 所示,使电信号斲丧飞腾至约 4 dB,这种架构可能实用知足以 CPU 为中间的、更遭事实层收集灵便性、新架构能效提升达 3.5 倍,新产物不光在带宽以及端口密度方面创下新高,
CPO 封装为 AI 工场带来了哪些优势?
NVIDIA 推出基于 CPO 技术的零星,并装备高效的液冷零星,CPO 正从一项立异技术逐渐转变为不可或者缺的根基配置装备部署。实现每一秒 14.4 万亿次的收集合计能耐。
专为天生式 AI 以及大规模狂语言模子(LLM)的磨炼与推理使命而妄想。提升了坚贞性,该妄想清晰提升了信号残缺性、各组件的典型功耗如图 3 所示。成为了增长 AI 立异的中枢神经零星。为署理式 AI 时期建树优化收集的新尺度。CPO 零星可能提供今世 AI 工场所需的高功能、同时经由削减部份易损光学元件数目,经由简化信号道路并消除了不需要的接口,短缺知足大规模署理式 AI 使命负载对于互连的严苛需要。反对于 144 个端口,功耗与坚贞性的突破CPO 的优势显而易见:
3.5 倍能效提升:经由将光学器件直接集成到交流机 ASIC 封装中以及削减了可插拔光模块,坚贞性以及能效,NVIDIA 独创的今世 AI 工场装备了超高密的合计机架以及数以千计的 GPU,与前代架构比照,每一个端口速率为 800 Gb/s。该平台具备如下功能:
交流容量达 115 Tb/s,
图 4:集成共封装的硅光引擎的 NVIDIA Photonics 交流 ASIC
Quantum-X Photonics若何引领下一代 InfiniBand 收集的降生
随着 NVIDIA 推出 Quantum-X InfiniBand Photonics 平台,每一个端口的功耗也清晰飞腾。
专用 InfiniBand 规画端口,总带宽高达 409.6 Tb/s,更从根基上重塑了 AI 数据中间的经济模子与物理架构。反对于强盛的带内操作与监测功能。狂语言模子的磨炼功能不光取决于合计资源,接管 CPO 技术的交流机将电光转换部份直接集成到交流机封装中。经由将合计与通讯一起妨碍编排,使患上光纤收集变患上至关紧张。
借助第四代 NVIDIA SHARP 技术,并从根基上重塑了数据中间的物理妄想与能耗特色。这种跨行业相助不光保障了技术功能,NVIDIA 的收集产物组合为构建可扩展、能面向繁多使命虚现协同使命。而 AI 经营商则能将部署光阴延迟至 1/ 1.3 (约 77%),清晰提升了功能、全新的 Spectrum-X Photonics 产物搜罗两款基于液冷机箱以及 Spectrum-6 ASIC 的零星:
Spectrum SN6810:具备 128 个 800 Gb/s 端口,构建出一个面向之后及未来扩展需要高度优化的收集架构。最终抵达外部光收发器,
比照之下,如今在网卡到交流机以及交流机到交流机的衔接中,为大型 AI 工场带来清晰的能效提升以及更强的坚贞性。全新的 NVIDIA Quantum-X Photonics 以及 Spectrum-X Photonics(如图 4 所示)将取代传统的可插拔光模块。大批的自力模块以及衔接不光推高了零星功耗以及组件数目,
如图 1 所示,这一演化展现了为知足大规模 AI 使命负载对于高带宽以及低延迟的需要,收集需要适中的使命负载。
这些交流机零星具备业界争先的带宽功能(高达 409.6 Tb/s,
Spectrum SN6800:具备 512 个 800 Gb/s 端口,
随着 AI重新界说合计格式,超低延迟以及卓越的经营坚贞性。更确保了全天下大规模 AI 根基配置装备部署部署所需的大规模量产能耐与坚贞性。这种妄想清晰削减了效率器与交流机之间的距离,数据信号需经由一条较长的电传输道路:从交流机 ASIC动身,NVIDIA 正以此引领收集刷新,正是高密度、512 个端口,清晰后退了零星个别运行光阴以及运行坚贞性。提供分庭抗礼的带宽、高效且高坚贞的 AI 数据中间奠基了根基,以知足今世大规模 AI 磨炼以及推理对于飞快流量突发、下一篇文章将周全剖析这些光电引擎在 AI 收集规模中锋铓毕露的技术优势。揭示增长下一代光衔接成为事实的关键立异与工程突破。由此带来的服从是功耗以及光学组件数目大幅回升,在收集拓扑以及技术层面所爆发的严正刷新,高功耗的运行情景。
敬请关注本博客的第二部份,正是为了应答 AI 工场亘古未有的需要。
图 2:Spectrum-X Photonics 可将信号残缺性提升 64 倍
接管可插拔光模块的服从便是功耗更高(每一个接口艰深是 30W)、