Asus lanserar arbetsstation med Nvidia GB300 Blackwell Ultra

Känns rimligt, nästan mer ram än min systemsdisk

Vore spännande att få en mer konsumentinriktad version av DGX-plattformen. Inte minst då den är helt byggd för att köras på Linux.

Systemet i artikeln kommer med NVIDIAs "DGX OS", som i praktiken är Ubuntu med alla drivers + lite andra CUDA-relaterade program förinstallerade.

Vad det gäller priset på denna, TechPowerUp gissar på >= 30 000 USD, vilket nog är fullt rimligt.

DGX Sparks är "budgetvarianten" med 128 GB RAM, men även den kommer ligga på 3 000 - 4 000 USD.

Asus har ju sin Ascent GX10som ligger runt 1000$ under DGX, tyvärr lär de nog inte gå ner så mycket förbi det. Men kanske går att hitta begagnade enheter om något år.

20 PFLOFS på skrivbordet är helt galet. Jag sitter med 0.03 i mitt 3080 (dock i FP16, men som jag förstår det ger FP8 och FP4 samma prestanda på Ampere?)...

Priset blir intressant att veta, men även strömförbrukningen, behovet av AC sommartid.

Enligt
TechPowerUp > GPU Database > GeForce RTX 3080 Specs
Så har RTX 3080

Theoretical Performance
Pixel Rate 164.2 GPixel/s
Texture Rate 465.1 GTexel/s
FP16 (half) 29.77 TFLOPS (1:1)
FP32 (float) 29.77 TFLOPS
FP64 (double) 465.1 GFLOPS (1:64)

Verkar ha lika många TFLOPS i FP32 som i FP16.

Jo, det var den jag kollade på också.

20 petaflops refererar nog till tensorcore ops för fp4, medan tech powerup nog inte tar hänsyn till tensorcores. Ska man jämföra äpplen med äpplen (i detta fall tc fp16) så är det nog 20/4 = 5 vs 0.03*8=0.24. Fortfarande sjukt stor skillnad dock

Sen räknar nog båda fallen med en funktion som kallas structured sparsity, och är bara användbar i nichade fall. För att ta bort den ska båda siffrorna halveras..

Och tensor cores är bara en specifik enhet som beräknar matrismultiplikation i reducerad precision. Så för mer generella applikationer i fp32 kan man dela flops ovan med 16 igen.

Dvs fp4 sparse tensor core: 20 PFlops
Fp32 general compute: 20PFlops / (4*2*8*2) = 156 TFlops (gissar jag på)