Od mierky/škálovania do mierky: spektrum - xgs je nevyhnutná voľba

Sep 25, 2025

Zanechajte správu

Aktuálne dátové centrá AI čelia dvom jadrom prekážok v škálovaní a tradičné stupnice - hore a mierka - out Modely sa snažia splniť giga {- Scale AI požiadavky:

Mierka - UP OBRÁVANIE: Dosiahnuté inováciou jednotlivých systémov alebo stojanov (napr. Zvýšenie počtu GPU alebo vylepšením jedného - výkonu zariadenia), ale obmedzené stropmi energie z infraštruktúry, ako je chladenie vody. Existujúce dátové centrá majú fyzikálne prahy pre vstup energie a rozptyl tepla, čo bráni nekonečnému zvýšeniu hustoty výpočtu na stojan alebo dátové centrum.

Mierka - Out obmedzenia: Rozšírené pridaním stojanov a serverov do mierky klastre, ale obmedzené fyzickým priestorom na jednom mieste, čím sa ukladajú tvrdé uzávery na kapacitu zariadenia.

Na prekonanie tejto dilemy NVIDIA navrhuje novú dimenziu "Scale - naprieč" Optimalizáciou sieťovej komunikácie medzi geograficky rozptýlenými dátovými centrami, aby sa distribuované AI zhluky spolupracovali ako jedno. Zakladateľ a generálny riaditeľ spoločnosti NVIDIA Jensen Huang popisuje tento kríž - regionálne AI Super Factory ako kľúčovú infraštruktúru pre priemyselnú revolúciu AI so spektrom - xgs ako základný technológia.

Spectrum-XGS

Základné technológie spektra - xgs

Spectrum - XGS nie je úplne nová hardvérová platforma, ale vývoj existujúceho spektra NVIDIA - x Ethernet Ecosystém. Od svojho spustenia 2024, Spectrum - x dodal 1,6x vyšší generatívny výkon AI siete ako tradičný Ethernet prostredníctvom spektra {{{{}} 4 prepínače SN5600 a Bluefield - 3 DPU, ktorý sa stáva mainstreamom pre voľbu AI pre dátové centrá AI pomocou Nvidia GPUS. Prielom v spektrum-XGS spočíva v troch algoritmických inováciách a synergiách hardvéru, ktoré sa zaoberajú výzvami o latencii komunikácie, preťažení a synchronizácii v krížových klastroch GPU.

1.Core Algoritms: Dynamic Adaptation na Long - charakteristiky siete vzdialenosti

Spektrum - jadro xgs je sada "vzdialenosť - Aware siete Optimalizačné algoritmy", ktoré analyzujú kľúčové parametre krížového {- dáta {- Center Communication v skutočnom {{} čas (vzdialenosť, prenosové vzorce, Congestion, Congestion, Congestion Metrics, Congestion, Congestion, Congestion, Congestion, Congestion, Congestion, Congestion, Congestion, Congestion, Congestion, Congestion, Congestice, Confestice, Confestice, Confestice, Consing Polic:

Vzdialenosť - Adaptívne ovládanie preťaženia:Na rozdiel od tradičného Ethernetového jednotného zaobchádzania so všetkými pripojeniami, spektrum - xgs algoritmov automaticky upravuje prahové hodnoty preťaženia na základe skutočných vzdialeností medzi dátovými centrami (v súčasnosti podporujú nasadenie až do stoviek kilometrov), čím sa vyhýbajú strate paketov alebo v dlhom - diaľkových prenosoch.

Presné riadenie latencie:Prostredníctvom Per - paket Fine - zrnité adaptívne smerovanie, eliminuje latenciu jitter z opakovaných prenosov paketov v tradičných sieťach. Jitter je kritickým nebezpečenstvom v klastroch AI: Ak je jeden GPU zaostávajúci v dôsledku oneskorenia, všetky GPU spolupracujú, musia mať priamy vplyv na celkový výkon.

End - na - end telemetria: Real - kolekcia časovej kolekcie Full - Link Performance Data od GPU do prepínačov a krížové - Dáta - Links poskytuje milisekundy {- na úrovni algoritmických úprav, aby sa dosiahlo dynamické porovnávanie siete na pracovné ai pracovné ai.

2. Hardvérové ​​synergie: pákový spektrum -} X Ekosystém High - Foundation šírky pásma

Spektrum - xgs dosahuje optimálny výkon v kombinácii so špecifickým hardvérom NVIDIA:

Spektrum - x prepínač: Ako základná sieťová chrbtica, poskytovanie vysokej hustoty portov a nízke - latencia.

ConnectX-8 supernicia: 800 GB/S AI - Vydávaný sieťový adaptér pre vysoké - prenos údajov o rýchlosti medzi GPU a prepínačmi.

Architektonické kovanie Blackwell: Napríklad B200 GPUS a GB10 superchips, hlboko integrované so spektrom - xgs na zníženie end - na {- koncová latencia. Nvidia overená prostredníctvom NCCL (kolektívna komunikačná knižnica) BenchMarks: Spectrum - xgs zosilňuje komunikačný výkon medzi Cross {{{} {} {} {11} end Cítite sa responzívne a oneskorenia - zadarmo pre interakcie používateľov, splnenie skutočných - časových požiadaviek na inferenciu AI.

Full - Optimalizácia zásobníka pre tréning a inferenčnú účinnosť so spektrom - xgs

Spektrum - xgs nie je izolovaná technológia, ale kľúčovým doplnkom k úplnému - ekosystému stack AI. V tomto vydaní NVIDIA tiež odhalil softvér - vylepšenia výkonnosti, ktoré Synergizujú so spektrom {- xgs pre hardvér - algoritmus {- softvérové ​​spolupráca:

Aktualizácia softvéru Dynamo: Optimalizované pre architektúru Blackwell (napr. Systémy B200) na zvýšenie výkonu inferencie AI modelu až 4x, čo výrazne znižuje výpočtovú spotrebu pre veľké odvodenie modelu.

Špekulatívna dekódovacia technológia: Používa malý konceptový model na predpovedanie ďalšieho výstupného tokenu hlavného modelu AI vopred, čím sa zníži výpočet hlavného modelu a zvýšenie inferenčného výkonu o ďalších 35%. Toto je obzvlášť vhodné pre konverzačné inferenčné scenáre vo veľkých jazykových modeloch (LLMS).

Riaditeľ zrýchleného výpočtového oddelenia spoločnosti NVIDIA Dave Salvator uviedol, že hlavným cieľom týchto optimalizácií je škálovať ambiciózne aplikácie agentúry AI. Či už tréning trililion - veľké modely alebo podporujú inferenčné služby AI pre milióny súčasných používateľov, kombinácia spektra - xgs a softvérový ekosystém poskytuje predvídateľný výkon.

Včasné aplikácie a vplyv priemyslu spektra - xgs

Prví používatelia: CoreWeave Pioneers Cross - doména Ai Super FactoryPoskytovateľ služieb GPU Cloud Cloud CoreWeave patrí medzi prvých osvojiteľov spektra - xgs. Zakladateľ spoločnosti Co - a CTO Peter Salanki poznamenali, že táto technológia umožní svojim zákazníkom prístup k GigA - Scalable Airties AI, zrýchlenie prielomov naprieč odvetviami. Napríklad podporujúca Ultra - veľké - projekty AI Scale AI, ako je iniciatíva Stargate od Oracle, SoftBank a OpenAI.

Trendy v priemysle: Ethernet Nahrádza Infiniband ako hlavný prúd siete AIAj keď spoločnosť Infiniband držala v roku 2023 asi 80% trhu s sieťou AI Backend Network, priemysel sa rýchlo presúva na Ethernet. Výber Nvidia vyvinúť spektrum - xgs na Ethernet je v súlade s týmto trendom:

Výhody kompatibility a nákladov:Ethernet je univerzálnym štandardom pre globálne dátové centrá, známe pre sieťových inžinierov a lacnejšie nasadenie ako Infiniband.

Projekcie stupnice trhu:Údaje skupiny Dell'oro ukazujú, že trh prepínača dátového centra Ethernet dosiahne v nasledujúcich piatich rokoch takmer 80 miliárd dolárov.

Vlastný rast Nvidia: 650 Group Reports označujú Nvidia ako „najrýchlejší - rastúci dodávateľa“ na trhu s prepínaním dátového centra 2024, pričom jeho výnosy z podnikania siete dosiahnu 5 miliárd dolárov v q {{{}}} (končiaci sa 27. apríla), až 56% rok {{}} nad- rok.

Spustenie spektra - xgs rozširuje úplnú - stratégiu monopoly v infraštruktúre AI, pričom vyvoláva novú konkurenčnú dynamiku:

Nvidia's Full - rozloženie zásobníka: From GPUs (Blackwell), interconnects (NVLink/NVLink Switch), networks (Spectrum-X/Spectrum-XGS, Quantum-X InfiniBand) to software (CUDA, TensorRT-LLM, NIM microservices), NVIDIA has formed uzavretá slučka pokrývajúca "Compute - connect - softvér" pre infraštruktúru AI. Spektrum -} Synergizuje s nvLink pre tri - úrovne Scaling: Intra {{{}} Centrum (spektrum {} {} {}} {{{{{{{{{{{{{{{{{{{{{{}} {{12} x) a kríž {{{{{{{{{{{{{{{{{{{{{{{{{{{{{{}} {{{{{12} x) (Spektrum - xgs).

Reakcie konkurentov: Predchádzajúca technológia SUE spoločnosti Broadcom zdieľa podobné ciele so spektrom - xgs, ktorých cieľom je optimalizovať výkon ethernetu na zatvorenie medzery s Infiniband. Okrem toho predajcovia ako Arista, Cisco a Marvell urýchľujú AI - vyhradené prepínačy Ethernet, so súťažou sa zameriavajú na výkonnosť - Cena - kompatibilita ekosystému.

Hlavná hodnota spektra - xgs leží v tlaku škálovania dátového centra AI z „single - obmedzení stránok“ do „Cross - regionálna spolupráca.“ Keď sa sila a pôda stávajú tvrdými limitmi pre jednotlivé dátové centrá, Cross - City a Cross - Country Ai Super továrne sa stanú základnou formou podporujúcou ďalšie {{}}} AIP AIPATIONS AI (napr. Všeobecná umelá inteligencia, veľká -} klasterka).

Ako sa na konferencii Hot Chips predstavila senior viceprezident pre sieťové oddelenie Nvidia Gilad Shainer: "Cross - Data - XGS sú kľúče z optických sietí optických vlákien už dlho, ale softvérové ​​algoritmy, ako je spektrum, ako je spektrum."

Zaslať požiadavku