Snabbtest: Core i7-2600K mot Core i7-8700K i överklockat utförande

Bakåtkompatibilitet är x86 styrka och svaghet. Nya instruktioner har ingen effekt alls på befintliga program, kommer inte att användas förrän det har ett utbrett stöd hos kompilatortillverkare och stöd hos ett någorlunda vettig andel CPUer på marknaden, och kommer även då bara att påverka ett litet subset av alla nyproducerade program, och kommer i dem bara ha relevans om de faktiskt är i en tidskritisk del och heller inte är begränsat av något annat som till exempel minnesbandbredd (looking at you AVX).

Om man inte håller på med benchmarketing eller skriver sin kod själv, har nya instruktioner i princip ingen relevans alls. Det tar bokstavligt talat decennier innan de får genomslag. x87 flyttalsberäkningar har varit kass i fyra decennier, och inte bara stöds fortfarande utan används av någon miljard användare varje dag.

Inte för att förringa benchmarketing (money makes the world go around...) eller de som sitter och knackar ner sin egen vetenskapliga kod på våra universitet (gjort det själv) men de utgör en försvinnande liten del av CPU-användarna.

Det tar mycket, mycket lång tid för tillägg i x86 ISA att få ett generellt genomslag, om det någonsin händer.

Håller helt med om att bakåtkompatibilitet är både en svaghet och en styrka. Men viktigt i sammanhangen är att vi idag rätt mycket kan ignorera 32-bitars x86, x86_64 kräver minimum SSE2.

Var noga med att skriva SIMD och inte SSE. SSE används av alla x86_64 program som jobbar med flyttal, så x87 är i praktiken helt ute ur ekvationen idag (och ja, x87 är en smärre katastrof).

SSE är däremot uppdelat i två huvudklasser

• "SS/SD" för "scalar single/scalar double". Detta är vad t.ex. Cinebench använder på x86_64.

• "PS/PD" för "packed single/packed double". Detta är nog vad de flesta tänker på när man säger SSE/AVX, men har fram till nu egentligen inte funnits något vettig sätt för programmerare att utnyttja detta (i alla fall inte i mainstream språk). Detta har ändrats i C++17

Värt att notera här är att SIMD (i form av NEON) är även ett krav för 64-bitars ARM (var valfritt i 32-bitars ARM). Så de två överlägset vanligast CPU-arkitekturerna på mobiler/datorer kan nu se heltals faktorer mer prestanda (realistiskt upp till kanske 2-4 gånger där det används vilket kanske påverkar totala prestanda 10-50 %). DET är orsaken till att jag är övertygad om att SIMD kommer används på en mycket bredare front framöver.

Är väl rätt få benchmarks som använder AVX? Finns några program folk brukar köra för att testa stabilitet av överklockade system som använder AVX, men dessa program förkommer rätt sällan i CPU-tester.

SIMD används dock nog på fler ställen än många anar redan idag, där man får heltalsfaktorer i prestandaförbättring totalt sett har drivkraften varit stor nog trots att man i praktiken fått hacka assembler (i form av compiler intrinsics, marginellt bättre än ren assembler).

För att ta några exempel

• YouTube: din webbläsare kommer använda AVX2 för att avkoda video om det stöds på ditt system (vilket Skylake har men Sandy Bridge saknar, kanske värt en uppgradering från i7-2600K ), här handlar det mest om att optimera batteritid på bärbara enheter då det är mer energieffektivt att göra detta med SIMD

• Adobe Photoshop & After Effects: SIMD ger mer tillskott här än vad CPU-kärnor gör (och AVX används om det finns)

• Adobe Premier: kan använda SIMD, men GPGPU är ännu bättre

• Soft-RAID: är 100 % säker att Linux använder AVX (eller SSE om AVX saknas, kollas vid boot), är 95 % säker att samma sak gäller Windows

• Mutex: på tal om Linux, här används även TSX-NI (som kom så sent i Haswell, även om det är först i Skylake det verkar fungera...)

• Kryptering: AES-NI, AVX2 samt ADX (som kom först i Broadwell) används i princip alltid om det finns, handlar ju om upp mot x10 prestandavinst!

• Vetenskapliga program: har finns de-facto standarder för matris bibliotek och dessa bibliotek är redan nu AVX-512 optimerade. Exakt vilka instruktioner som används bestäms runtime, man kör samma binär på alla system men programmet är bara länkat mot biblioteks-loader som väljer rätt matris-bibliotek vid start (här finns t.ex. Matlab, Octave, Matematica, R, NumPy och en trave verktyg för olika former av simuleringar, används absolut mest i universitetsvärlden men även i industrin)

• Machine learning: här används redan AVX-512 flitigt (primärt i "inference" steget), men även GPGPU (framförallt i "training")

• Stränghantering: både Linux och Windows använder SSE3 för detta om CPU stödjer det

Vad saknas då? SPEL!

Så vitt jag vet är det bara några få delar i allas favorit "Gameworks" som använder AVX (t.ex. ClothFX och andra saker som bygger på PhysFX 3.0 eller senare, Nvidia körde ju tidigare versioner av PhysFX på GPU alt. x87!!!). Men har ju inte precis undersökt binärerna i alla spel (har titta i något enstaka, ser viss användning av SSE finns normalt både "scalar single" och "packed single" instruktioner, men inga gigantiska mängder av någon av dessa).

Å andra sidan: varför lägga massa krut på detta i spel då GPU-delen ändå är flaskhals på PC? Vad man bör ha i bakhuvudet ändå är att program som skulle kunna utnyttja SIMD men inte gör det drar ungefär lika mycket nytta av totala CPU-kraften som ett enkeltrådat program körades på en 8-kärnig CPU gör (Sandy Bridge har 8 gånger högre teoretisk FP32 kapacitet med AVX jämfört med SSE-scalar, Skylake har 16 gånger högre, i praktiken har Sandy lite för låg kapacitet mot cache för att nå teoretiskt max men Skylake har tillräckligt).

Håller till 100 % med om det senaste. Det brukar ta i runda slängar 10 år innan något blir allmänt accepterat. För tio år sedan hade vi SSE4, AVX är "bara" lite mer än sju år gammalt än. Men bara att få mer generell användning av SSE2 i SIMD smak kan som sagt ge upp till 4x prestanda!

Finns i alla fall en Linux-distro, Clear Linux, som kräver SSE4.2 (Nehalem). Gör ingen skillnad i vissa applikationer, ger rätt mycket i vissa andra, det enbart genom att låta kompilatorn använda även de instruktioner som tillkommit mellan Athlon64/P4 (Athlon64/P4 med 64-bitars stöd är minimikravet för x86_64) och Nehalem.

Visa innehåll

Notera att både Intel och AMD kan se en klar boost, så är något generellt bra!!!