Znanje

Kako se NVIDIA GB300 NVL72 sistemi razvijaju za velike-obuke AI i zaključivanja, jedno pitanje se stalno pojavljuje u diskusijama o inženjeringu data{3}}centra: kako održavate optičke interkonekcije hladnim? GPU-ovi, CPU-i i silicijum za prekidače u GB300 stalak su već tečno-hlađeni, ali optički primopredajnici koji se mogu priključiti koji pokreću saobraćaj između prekidača i NIC-a sjede u drugačijem termičkom režimu. Kako se brzine modula penju prema 1,6T i 3,2T, njihovu toplinu postaje sve teže zanemariti.

Nedavno su kružile tvrdnje da su 3.2T optički moduli hlađeni imerzijskom tekućinom-ušli u masovnu proizvodnju i da su prihvaćeni širom svijetasveGB300 klasteri. To kadriranje preuveličava gdje se tehnologija zapravo nalazi. Ovaj članak razdvaja ono što je javno potvrđeno od onoga što ostaje tvrdnja ili projekcija dobavljača, objašnjava šta je optički modul-hlađeni tekućinom i pokazuje kako se uklapa uz NVIDIA-inu otkrivenu mapu puta ko{4}}upakovane optike i silicijumske fotonike.

Šta je tekućinom{0}}hlađeni optički modul?

Priključni optički primopredajnik pretvara električne signale sa prekidača ili NIC-a u svjetlo za prijenos preko vlakana i natrag. Većina topline dolazi sa električne strane - DSP-a, laserskog drajvera i transimpedansnog pojačala (TIA). Tradicionalno, ovi moduli, u OSFP ili QSFP-DD faktorima oblika, oslanjaju se na hlađenje zrakom: hladnjak na površini modula, sa ventilatorima i strujom zraka iz kućišta koji odvode toplinu.

Tečno{0}}hlađeni optički modul zamjenjuje ili nadopunjuje taj protok zraka putem tečnosti. U praksi, većina dizajna o kojima se danas raspravlja integriše ahladna ploča ili mikrokanalna strukturau standardno kućište klase OSFP-, tako da rashladna tekućina uklanja toplinu direktno iz modula umjesto da zavisi od protoka zraka u stalak. Ovo jeneisto kao i potpuno uranjajuće hlađenje, gdje su komponente uronjene u dielektrični fluid. Oba pristupa postoje na širem tržištu, ali razlika je od velike važnosti kada procjenjujete bilo koju tvrdnju o određenom proizvodu. Ako upoređujete porodice modula, pomaže da počnete od osnovabrzi{0}}moduli primopredajnika i njihove optičke komponente.

Zašto AI klasteri guraju optiku dalje od vazdušnog hlađenja

Dva trenda se sudaraju. Brzine modula rastu, a sa njima raste i snaga po{1}}modulu. Procjene industrije navode da 800G moduli imaju otprilike 14–20W i 1,6T klijentsku optiku na oko 20–25W, sa koherentnim i DCI varijantama većim. Forma OSFP je odabrana dijelom zato što može primiti integrisani hladnjak za ovu omotnicu -, ali kako 200G-po-optici na traci i 3.2T moduli stižu, taj termalni budžet postaje samo manji.

U isto vrijeme, snaga rack-a raste. GB300 NVL72 stalak troši oko 120–140 kW i hladi se pretežno tečnošću. Kada većina rek-a radi sa ekstremnom gustinom, a okolno postrojenje je projektovano oko tečnih petlji, komponente hlađene zrakom{6}} mogu postati nezgodan dio dizajna, a ne računanje. To je prava motivacija iza interesovanja za tečno{8}}hlađenu optiku: ne da je optika odjednom najveći pojedinačni izvor topline, već dahlađenje zrakom postaje teže opravdati u inače potpuno tekućinom-hlađenom, ultra-okruženju. Za timove koji planiraju na ovoj gustoći, vrijedi razmišljati o optici kao jednom elementu kombinezonastrategija povezivanja data centaraa ne u izolaciji.

Zračno{0}}hlađeni u odnosu na tekućinu-Optički primopredajnici hlađeni

Ova dva pristupa rješavaju različite probleme i donose različite kompromise{0}}. Tabela u nastavku sumira praktične razlike kakve danas stoje.

Pravi izbor zavisi od gustine snage reka, faktora oblika i toga koliko je postrojenja već tečno{0}}hlađena. Za većinu implementacija koje se trenutno isporučuju, zračno hlađeni priključni uređaji - uključujući 800G i 1.6T OSFP module - ostaju zadana postavka. Pažljiviji pogled na800G OSFP faktor oblika i njegov termalni dizajnpokazuje koliko je inženjeringa već uloženo u održavanje konvencionalnih modula unutar njihovog zračnog{0}}hlađenog omotača.

Kako se ovo odnosi na GB300 NVL72 i NVIDIA-in plan optike

Dvije javno dokumentovane činjenice vrijedne su usidrenja prije nego što prihvatite bilo kakvu priču o "tečno{0}}hlađenoj optici je posvuda".

Prvo,GB300 NVL72 je potpuno tekućinom-hlađen, reck-sistem- ali tečna petlja cilja na GPU-ove, Grace CPU-ove, NVSwitch tray-ove i ConnectX-8 mrežne adaptere. Uobjavljeni OEM referentni dizajni, OSFP optički moduli, komponente za pohranu i{0}}distribuciju energije suvazdušno{0}}hlađeno, pri čemu je otprilike 90% topline stalka zarobljeno tekućinom, a ostatak zrakom. Drugim riječima, u referentnoj arhitekturi isporuke, sama optika koja se može priključiti nije hlađena tekućinom-.

Drugo, otkrivena strategija NVIDIA-e za smanjenje optičke snage na skali jesteko{0}}upakirana optika (CPO), a ne utikači{0}}hlađeni potapanjem. Na GTC 2025 kompanijanajavio prekidače Spectrum-X i Quantum-X Photonicskoji integrišu silikonsku fotoniku direktno sa prekidačem ASIC, navodeći oko 3,5x bolju energetsku efikasnost i 4x manje lasera od tradicionalnih primopredajnika koji se mogu priključiti. Sam preklopnik Quantum-X Photonics koristi tečno hlađenje za svoj -paket silikonske fotonike. Priključna optika ne nestaje u ovoj mapi puta - dobavljači uključujući Innolight, Coherent, Eoptolink i Fabrinet nastavljaju da ih podržavaju -, ali glavna ušteda energije koju NVIDIA teži dolazi od CPO-a. Za pozadinu o tome zašto industrija prebacuje optiku na paket, ovotehničko objašnjenje o ko-pakovanoj opticije koristan primer i dobro se slaže sa širim pogledomsilikonska fotonika i kablovi o kojima zavisi.

Dakle, tačna slika je slojevita: tečno hlađenje u GB300 je stvarno i centralno za rack; CPO i silicijum fotonika su NVIDIA-ina navedena strategija napajanja optike; i "uronjeni tečno hlađeni-3.2T priključni moduli usvojeni u svim GB300 klasterima" jenenešto što javni zapis trenutno podržava. Interkonekcija visoke{1}}međusobne gustine se još uvijek u velikoj mjeri oslanja na konvencionalno strukturirano vlakno, kao što jeMPO kabliranje za AI data centre.

Šta su smele tvrdnje ispravno?

Nije sve u "probojnom" kadriranju pogrešno. Problem je što se potvrđeni trendovi miješaju s neprovjerenim specifičnostima. Evo praktične podjele.

Razumno dobro podržano:

• AI klasteri pokreću veću propusnost, snagu i toplotnu gustinu međupovezivanja.
• GB300 NVL72 je tečno{2}}hlađeni, reck{3}}sistem.
• Ko{0}}upakovana optika i silicijumska fotonika su glavni NVIDIA-in pravac za AI umrežavanje.
• Tečno{0}}hlađena utičnica optika (hladna-ploča ili mikrokanalni dizajn) je pravi smjer istraživanja i razvoja i ranog-proizvoda u nastajanju.

Tvrdnje za koje je potreban imenovani, provjerljivi izvor prije nego što se oslonite na njih:

• Ta optika je "najveće termalno usko grlo" u GB300 rekovima, ispred GPU-a.
• Specifične brojke kao što su temperatura kućišta modula od 85 stepeni, 38W po modulu, "30% prostora u regalu" ili "20% snage klastera".
• Da određeni dobavljači imaju masovnu-proizvedenu imersionom tekućinom-hlađene 3.2T priključne module usvojene u svim Q3 2026 GB300 klasterima.
• Imenovani rezultati implementacije korisnika i brojevi ishoda kao što je povećanje propusnosti za obuku-od 22% ili 20% veća gustina GPU-a.
• Predviđa se da će 80% novih AI-klaster optičkih modula biti tečno-hlađeno do 2027.

Ako ih vagate za nabavku ili planiranje kapaciteta, zatražite primarni izvor: OEM referentni dizajn, MSA ili standardni dokument, list sa podacima dobavljača sa navedenim uslovima ili mjerenje sa definiranim testnim podešavanjem (tip modula, snaga, protok zraka ili temperatura rashladne tekućine, gustina priključka). Koristan okvir za ovu vrstu trijaže je odvajanješta se danas isporučuje iz onoga što je još uvijek na mapi puta optičkog-modula.

Izgledi za budućnost: 1.6T, 3.2T, CPO i Silicon Photonics

Smjer putovanja je jasan čak i tamo gdje tačni datumi nisu. 1.6T optika - uglavnom na OSFP-XD faktoru forme - raste, 3,2T je na mapi za kasniju ovu deceniju, a stope po-trakama se kreću na 200G i dalje. Svaki korak povećava snagu po-modulu, zbog čega industrija ide na nekoliko puteva odjednom: niže-DSP-ove snage na 3nm i 2nm čvorovima, linearni-pogon i linearnu utaknutu optiku, ko-upakovanu optiku i poboljšani termalni dizajn uključujući hlađenje tekućinom.

Ovi putevi su komplementarni, a ne međusobno isključivi. Koji će dominirati datom implementacijom ovisit će o dosegu, gustini, uslužnosti i cijeni -, a ne o jednom "proboju". Optika hlađena tekućinom{3}} može dobro zaslužiti mjesto u najgušćim regalima, ali kao jedan od nekoliko alata, raspoređenih tamo gdje to zapravo zahtijevaju termalna matematika i matematika gustine.

FAQ

Jesu li optički moduli{0}}hlađeni tekućinom komercijalno dostupni?

Tečno-hlađena utikačna optika - tipično hladna-ploča ili mikrokanalni dizajn u OSFP-faktoru oblika klase - postoje i demonstriraju se, ali su rani i nisu glavni izbor. Većina transportnih AI tkanina još uvijek koristi zračno{6}}hlađene 800G i 1.6T priključke.

Da li GB300 klasteri zahtijevaju tečno{1}}hlađenu optiku?

Ne. GB300 NVL72 stalak je tečno-hlađen, ali objavljeni referentni dizajni hlade OSFP optičke module zrakom, a ne tekućinom. GPU-ovi, CPU-i, NVSwitch i NIC-ovi su tečno{5}}hlađeni dijelovi.

Koja je razlika između priključne optike i CPO?

Primopredajnik koji se može priključiti je zaseban, hot{0}}zamjenjiv modul koji ubacujete u prekidač ili NIC port. Ko-upakovana optika integriše optički motor u isti paket kao i čip prekidača, skraćujući električni put radi smanjenja snage i kašnjenja - po cijenu lakoće servisiranja, i sa različitim (često uz pomoć tekućine-potpomognutim) hlađenjem.

Zašto se optički moduli pregrijavaju u AI klasterima?

Većim brzinama podataka potrebno je više obrade signala u DSP-u, drajverima i TIA-ovima, što povećava snagu po{0}}modulu. Spakujte mnoge-module velike snage u gust stalak velike-snage i lokalno termalno opterećenje može premašiti ono što zračno hlađenje udobno podnosi.

Da li je hlađenje potapanjem isto kao i tekućinom{0}}hlađeni optički modul?

Nije nužno. Uranjanje potapa komponente u dielektrični fluid, dok većina dizajna "optičkih modula-hlađenih tekućinom" o kojima se danas raspravlja koristi hladnu ploču ili mikrokanal koji nosi rashladno sredstvo. To su različiti pristupi sa različitim razmatranjima pouzdanosti, brtvljenja i upotrebljivosti.

Key Takeaways

• Termičko upravljanje optičkim interkonekcijama postaje pravo ograničenje dizajna u gustim, tekućinom{0}}hlađenim AI policama.
• Tečno-hlađena utičnica optika je nova opcija - uglavnom hladna-ploča ili mikrokanal, a ne imerziona - i još uvijek nije popularna.
• GB300 NVL72 je tečno-hlađen, ali su njegovi OSFP optički moduli hlađeni zrakom{3}}u referentnim dizajnima.
• NVIDIA-ina otkrivena strategija napajanja za optiku je ko-upakovana silicijumska fotonika.
• Oprezno postupajte prema određenim brojkama i tvrdnjama "već svuda raspoređene" sve dok ih primarni izvor ne potkrijepi.