Nvidia avtäcker superdatorn DGX GH200 – 256 processorer och 144 TB grafikminne

Tar gärna en att använda som renderbox

Inte för att jag missar ironin, men är inga GDDR moduler i den här lösningen, varje GPU krets (Hopper) har 96GB HBM3, sen sitter det ytterligare 480GB LPDDR5 minne på varje Grace Hopper kort. Klustret har sedan 256 sånna kort, ser ut som man räknat ihop både HBM och LPDDR5 minnet för 144TB.

edit. Eller ja, man landar inte riktigt där om man räknar så heller, väldigt nära om det skulle vara 80GB versionerna av GPUerna, men Nvidia refererar själva till 96GB så antar att det är H100 varianten med mer minne i den här lösningen, så lite oklart hur dom fick ihop siffran.

Är detta alltså en komplett lösning man kan köpa, eller en enstaka superdator man kan hyra in sig på?
Det verkar lite bisarrt om den ska vara näst snabbaste superdatorn i världen och bara gå att beställa med några klick.

Edit: Något luktar skumt med NVIDIASs siffror... Är det några tensor-specifika siffror som inte brukar användas vad gäller superdatorer? Det är min gissning.

Om jag tolkar denna announcement korrekt så är alltså 256 GPU:er tillsammans 1 exaflop, och NVIDIA bygger en superdator med 4 st, så 4 exaflop. Det vore ett extremt stort hopp till att bli ÖVERLÄGSET snabbaste superdatorn i världen, nästan med en faktor 4. Det låter fullkomligt orimligt.

Jippi! Nu går det äntligen att köra The Last of Us i 4K.

Läser man databladet så framgår: "1 exaFLOPS of FP8 AI performance". Det skulle innebära 3906 TFLOPS per GPU, vilket stämmer bra med Nvidia H100 som ligger på 3958 TFLOPS. Så det verkar med andra ord inte vara något nytt när det gäller GPUerna, Nvidia har "bara" använt sina existerande GPUer för att konstruera en modulär superdator.

Tillägg: H100 ligger för övrigt på 67 TFLOPS för vanlig FP32, DGX GH200 landar då på ca 17 PFLOPS. Helt klart superdatorklass, men en bra bit från toppen.

Här är databladet för Grace Hopper, alltså korten som används för den här lösningen, vilket mycket riktigt är 3958 TFLOPS för varje Hopper krets (H100) för FP8 Tensor Prestanda.

Okej, du har nog rätt.
Hur mycket VRAM ska jag satsa på?

Det hade inte varit Sweclockers utan det här svaret

5 buggar är fler än 4 elefanter ?

Är detta den riktiga ersättaren till Titan? Kommer denna säljas på Nvidias svenska sida?

Oftast är det tidningarna som gör det men varför måste man göra korkade jämförelser med just elefanter och fotbollsplaner?

Aha så tung.

Förlåt, läste nyligen om tunga hus i New York som sjunker eftersom det väger lika mycket som X elefanter.

Alla vet att elefanter är stora. Därför måste de vara TUNGA. Att det sen är rätt meningslöst är väl en akademisk poäng. Tillägg som 2000, Turbo, Super, Ultra m.m. hade inte användts om det inte hade fungerat på människans psyke.

Antar att vi tyvärr inte är smartare än så. Vad vi än vill tro om oss själva.

Jo det har väl blivit lite av en tradition också, jag ska försöka sluta att vara så gnällig.