Nvidia Tesla K20 med GK110 i handeln – kostar över 30 000 kronor

Svaret är antagligen att många byggt in sig i CUDA. Finns en del motvilja att slänga all den väl-optimerade koden som fungerar bra och börja om. Xeon Phi är väl ett försök att
kring-gå CUDA genom att det finns x86-kod redan. OpenCL verkar det gå väldigt trögt för.

Undra hur lång tid det tar innan man ser första kortet här: http://setiathome.berkeley.edu/top_hosts.php

Snarare 3 år. Ett sketet 7770 ligger på den nivån som var toppnivån 3 år tidigare.

Tror inte det är ett så stort problem för CUDA är fortfarande relativt nytt på HPC-marknaden. Inom vetenskapliga beräkningar är det standard att kompilera om och pilla hela tiden för att optimera för att man måste kompliera om varje gång man byter hårdvara för att optimera mot just den. Så sitter man redan på massa Tesla och ska köpa K20 så blir det att skriva om koden ändå om man vill ha ut all prestanda. Fördelen med Xeon Phi är att det är lättare att skriva mot den då man inte behöver använda specialgrejer som CUDA på samma sätt utan den beter sig mer som en vanlig processor.

Skillnaden lär väl snarare ligga i vilket som är mest effektivt för ett specifikt problem. 2000 långsamma kärnor eller 60 snabba kärnor.

Många långsamma kärnor är alltid MYCKET svårare att hantera än färre snabba kärnor, så skulle vara väldigt intressant att veta hur nära den teoretiskt prestandan man faktiskt når med ett typiskt CUDA-program. Enda fördelen med många svaga kärnor är att man normalt sett kan nå en betydligt mycket högre aggregerad prestanda med många svaga kärnor jämfört med några få starka kärnor givet en viss ström- och transistor-budget. I detta fall så verkar skillnaden väl liten för att det ska vara värt huvudvärken.

Framförallt så måste CUDA vara ett rejält gissel då det är väldigt likt C medan Fortran fortfarande är väldigt populärt då det är en mycket bättre match vid bl.a. matris-beräkningar jämfört med C. Till Xeon Phi, som i praktiken kör något som är väldigt likt AVX, finns ju redan Fortran-kompilatorer (Intel har en egen sådan). Sedan har Intels C++ kompilator (ICC) har stöd för Xeon Phi + att det finns ett tillägg som kallas Cilk+ som ingår i ICC, Cilk+ lägger till några saker till C/C++ som gör det möjligt för programmeraren att uttrycka vektorer och matris som språk-primitiver (direkt kopierat från Fortran) som i sin tur gör det trivialt för kompilatorn att inse hur den kan köra den koden med SIMD-instruktioner.

Tesla har ju en till svaghet jämfört med Xeon Phi i det att en GPU kan i praktiken bara hantera problem som är data-parallella (vilket t.ex. matris-beräkningar är och det är den form av parallellism som SSE/AVX/NEON/AltiVec är designade för). Men det är bara en form av parallellism som finns, den andra är instruktions-parallella system som är den form av parallellism som de flesta kanske tänker på då det är vad man har i multitrådade program som kör på "vanliga" CPU:er. Skulle tro att Xeon Phi får rejält med stryk av en "vanlig" CPU på instruktions-parallella problem, men det är i alla fall möjligt att hantera sådant med en rimlig effektivitet.

Man kan tydligen inte köpa den Xeon Phi jag refererade till tidigare som är ett utannonserat pris på ~$2000, den ska komma Q1 2013.

Den version som går att köpa ligger på $2700, men då får man 512-bitars buss mot 5GHz GDDR5 i stället för den 384-bitars buss som Tesla och den billigare Xeon Phi använder. Huruvida 30% högre bandbredd mot RAM spelar någon roll beror på vilken typ av problem man har, den teoretiska flyttalsprestandan verkar vara den samma på båda versionerna av Xeon Phi.

Varför? För att du inte kan räkna? 3 år innan 7770 släpptes var 4870 den snabbaste GPUn från AMD och GTX 285 den snabbaste från nVidia, ja GTX 285 var den snabbaste så sent som 2 år innan från nVidia. Och 7770 är en hel del bättre på beräkningar än båda.

Men tror du inte det är lättare att hitta programmerare som kan hantera relativt gamla och etablerade språk som C och Fortran än att hitta programmerare som kan hantera CUDA eller OpenCL? Fördelen med att skriva för etablerade språk är ju att man inte blir låst till en specifik leverantör på samma sätt som om man skriver allt för CUDA. Nu tror jag inte det är ett problem för superdatorer, då man tydligen är ganska "van" i de kretsarna att få skriva om rätt stora delar av sin programvara för att hantera de ganska radikala HW-designerna man jobbar med. Men för lite mer "vanlig" användning blir det en väldigt stor kostnad att vara tvungen att skriva om stora delar av systemet i det läget att man vill/måste byta HW-leveratör.

Vad det gäller Fortran blev jag själv ganska överraskad över hur mycket det används inom vissa specifika områden. Framförallt hade jag lite svårt att se varför Intel lägger ner rätt mycket resurser på sin Fortran-kompilator, men inser nu att det just inom vissa typer av beräkningsintensiva områden som Fortran fortfarande är det bästa (mest effektiva) språk man har just p.g.a. att det är lätt att extrahera data-parallellism ur sådan kod.

Jag har letat lite men det är rätt ont om benchmarks för den typen av applikationer. Annars är det väl bara att räkna på prestandan från Titan? Den hade en peak på 27112,5 TFLOP/s och presterar 17590 TFLOP/s med LINPACK enligt Top500. Så med 90 % av prestandan från grafikkort får vi (0,9*17590)/18688=0.8471 vilket ju är en bit ifrån det teoretiska max på 1,31 eller 1,17 TFLOP/s. Verkar inte helt självklart om det är K20 eller K20X som sitter i Titan. Det står lite olika men om man räknar på teoretiskt max så ser det ut som om det är K20X. För jag antar att LINPACK enbart kör DP. Sen är ju frågan hur mycket mer prestanda man kan sparka ur datorn om man gör lite optimeringar. Vet inte hur mycket man optimerar LINPACK inför körningarna. En del av prestandaökningen i K20 jämfört med tidigare versioner av Tesla är ju mjukvara som kräver att man skriver om koden en del. Men den biten har du mycket bättre koll på än jag.

Det är det stora problemet med elförbrukning. Ska man räkna medelel eller marginalel? Det skiljer ungefär en faktor 10 i koldioxidutsläpp mellan de båda här i Sverige eftersom vår medelel är kärnkraft och vattenkraft medan marginalelen är gasturbiner och tysk kolkraft.

Fortran är toppen om man arbetar mycket med vektorer och matriser (i matematisk mening)! Koden blir mycket kompaktare och mer lättläst. Dessutom brukar den exekvera märkbart snabbare än ett väloptimerat C/C++ program.

Är mycket nyfiken på Xeon Phi. Du säger den sitter på ett PCIe kort, hur mycket minne finns onboard på kortet? Det största problemet med GPU-beräkningar i min mening är att det finns så förbaskat lite minne, även på highend-korten. 6 GB räcker verkligen inte långt. Så om Xeon Phi kommer med 32GB eller liknande kunde det vara mkt intressant!

Förvisso, om man verkligen vill åt prestanda vill man ju ha många beräkningsenheter per enhet av data, men om man inte har råd att köpa ett dussin Tesla/Phi så är mer minne enda utvägen.

Nej. Det är inte ett kort för 3D. Det är ett kort för beräkningar. (Du tänker på Quadro-korten förmodar jag.) Detta kort är för de som håller på med simuleringar och behöver fet beräkningskraft. Funkar säkert för rendering också iofs, men inget man kan se på en skärm då den inte ens har skärmanslutningar.

Bara för att sätta det i lite proportion.

Man kan ju få 4st GTX690 för samma pengar, så vilket ger mest poäng i F@H, 4st GTX690 eller 1st K20?

Nej. Tesla fermi kommer med max 6 GB. Nya Tesla Kepler kommer (inledningsvis) med 5 GB. Trist utveckling.