AMD Ryzen 3000 "Matisse" – samlingstråd

Droppa neggo-aggresso-attityden tack, det gör det lite trevligare att vara här.

Att du inte råkar ha problemet är faktiskt inte bevis för att alla som eventuellt har ett problem är kompletta idioter... Och för de flesta lär Prime95 vara ett icke-problem oavsett (det är en rätt udda last som få kommer använda i praktiken). Själv råkar jag vara lite intresserad av orsak då jag delvis använder datorn till SGEMM/DGEMM laster (även om allt fler av dessa lämpar sig bättre för GPGPU, så lär nog bli ett icke-problem även för mig med tiden).

I overclock-tråden uppträdde detta problem på t.ex. Asus Strix X470-F, hipstergamer har samma beteende på ett Aorus X570 Ultra. Review hos ComputerBase verkar gjorts på MSI X570 Godlike, Overclockers använde MSI X570 Godlike & ASUS ROG Crosshair VIII Hero, TechPowerUp använde ASRock X570 Taichi. Ändå såg alla beteendet med att totaleffekt gick ned 20-30 W i Prime95,

De som rapporterar låga frekvenser i Prime95 och mätt effekt har just noterat egenheten att systemet drar mindre effekt i vad som borde vara ett stress test. Vad man kan förvänta sig är högre totaleffekt, eller om man slår i ström och/eller värmebarriärer, samma totaleffekt som t.ex. CB20 och Blender.

Du har konsekvent också ignorerat att fallet där jag inte når basfrekvens i DGEMM är fallet där uppmätt GFLOPS stämmer väldigt bra överens med Puget System (som använde sig av Gigabyte X570 AORUS ULTRA) mätningar. Slår man på PBO (som nog bör undvikas för just denna typ av last då det finns flera som rapporterat höga CPU-temperaturer och i vissa fall även instabilitet/omboot) ser man ju högre rapporterade frekvenser och högre faktiskt GFLOPS (även på mitt knäckebrödsmoderkort!).

Tycker du det verkar rimligt att en 3900X ska hamna marginellt efter 9900K i något som skalar i princip perfekt med CPU-kärnor och där 3900X har 50 % fler kärnor (det är vad Puget systems mätning visade)? Är samma teoretiska FLOPS/MHz i båda CPUern, men förutsätter i princip att Skylake har högre faktiskt kapacitet, men fördelen borde inte var så stor.

Att du inte har problem är gissningsvis ett positivt tecken, det ökar chansen att de som har problem har det p.g.a. ett relativt generellt problem i nuvarande firmware.

Min neggo attityd kommer sig av att du direkt anklagade mig och alla andra här för att blåljuga enbart för att du inte sett samma beteende på dina prylar & sen cherry pickade resultat från testare världen runt. Sen har du inte en gång bekräftat eller dementerat vad din CPU håller för temperatur under dina test eskapader och nu menar jag riktig Tdie temp & inte moderkortets CPU temp som kan vara precis vad som helst.

Om du slutar påstå att folk ljuger så kan jag vara trevlig annars kommer jag inte tilldela dig ett uns trevlighet.

Att folk ser lägre "effekt" alltså, watt beror på att det temp throttlar och ampere throttlar, detta gör att man får lägre vcore samtidigt som TDC griper in & håller processorn till 95A, det gör att beroende på vcore så kommer man sannolikt inte träffa 142W PPT utan falla kort från den. Kör du CBR20 exempelvis så kan processorn hålla högre vcore och samtidigt hålla upp mot 95A TDC eller till och med gå upp mot EDC beroende på temp förhållanden, detta gör att man ligger konstant mot PPT i CBR20.

Chilla mannen. Fakta är att den enda som anklagat någon för att ljuga i denna diskussion är du själv. Jag har pekat på att de förklaringar du gett inte är konsekvent med all data som redan fanns tillgänglig i diskussionen, om du tar det som ett personangrepp kanske du bör fundera om du kanske inte har en ohälsosam känslomässig kopplig till AMD...

OK. Anta att det temperatur- eller ström-throttlar. Givet termodynamikens första huvudsats och det faktum att all tillförd elenergi till en CPU kommer bli värme.

Och för att ta ur mitt "knäckebrödsmoderkort" ur ekvationen, låt oss enbart tittat på resultatet som bl.a. TechPowerUp, ComputerBase och Overclockers fick i sina 3900X tester där Prime95 resulterade i 20-30 W lägre effekt än andra inte alls lika AVX-tunga laster.

Hur förklarar man då att CPUn drar 20-30 W längre i vad som borde vara ett stresstest? Om det är TDC (95A) som sätter gränsen, vilket är fullt möjligt, varför ser man då inte samma uppmätt effekt i CB20/Blender som i Prime95? Fysiken säger att det kan bara finnas ett par möjliga förklaringen

• Enda drar Prime95 mindre än 95A eller så drar Blender/CB20 mer än 95A (i så fall varför går man över den gränsen här?)

• Skulle också kunna vara så att Vcore är betydligt lägre när man kör Prime95 då effekt är P = U * I, kanske är förklaringen och kanske bara är vissa moderkort där detta händer?

• Den trista förklaringen skulle vara att effekten i Prime95 genereras i en väldigt liten del av kretsen så att flaskhalsen blir hur fort utvecklad värme kan transporteras bort. Det som gör denna förklaring osannolik är att alla system borde se samma effekt här och lite svårt att förklara hur aktivering PBO/AutoOC då kan ge högre frekvens.

Det som gör det hela ännu lurigare att förstå är att TechPowerUp och ComputerBase även testat 3600 och 3700X. Dessa två CPUer uppför sig inte som 3900X, utan där får man det mer väntade utfallet att Prime95 drar lika eller mer effekt jämfört med CB20/Blender.

Jag är noll intresse av att irritera dig, jag vill bara försöka förstå det observerade beteendet. Hade det varit isolerat till mitt system hade jag utan omsvep köpt förklaringen att moderkortet är flaskhalsen. Problemet är det finns fall där man ser samma sak med high-end X570 moderkort.

Det är ett riktigt cheepo-moderkort, ASRock AB350M Pro4. Då det är ett 300-serien chipset finns inget krav från AMD att det ska fungera, det är upp till moderkortstillverkarna att avgöra. 3900X är med på listad över officiellt stödda CPU-modeller.

Kör också med stockkylaren, mest för att jag har datorn i en bra bit från där jag sitter så kvittar att CPU-fläkten går på högvarv (har ställt in en väldigt aggressiv fläktkurva). Systemet står faktiskt i ett kylt serverrum, IR-bilder visar att värme knappast är ett problem här. Bilder finns länkade i detta inlägg, varmaste området kring VRM när man kör Octave/DGEMM-loop är under 60°C då luften är AC-kyld.

$ sensors | grep CPU
CPU Core Voltage:         +1.06 V  
CPU SOC Voltage:          +1.06 V  
CPU Core Voltage:         +1.07 V  
CPU SOC Voltage:          +1.08 V  
CPU Fan:                 1906 RPM
CPU OPT:                    0 RPM
CPU Temperature:          +63.0°C  
CPU Socket Temperature:   +41.0°C  
CPU VRM Temperature:      +35.0°C  
CPU VRM Output Current:  +97.00 A

$ sensors | grep CPU
CPU Core Voltage:         +1.07 V  
CPU SOC Voltage:          +1.06 V  
CPU Core Voltage:         +1.09 V  
CPU SOC Voltage:          +1.08 V  
CPU Fan:                 2872 RPM
CPU OPT:                    0 RPM
CPU Temperature:          +82.0°C  
CPU Socket Temperature:   +61.0°C  
CPU VRM Temperature:      +53.0°C  
CPU VRM Output Current:  +105.00 A

$ ./dgemm3.m
From 8000 To 40000 Step=4000 Loops=2
        SIZE             FLOPS             TIME
        8000x8000 :      480.19 GFlops   4.264969 sec
      12000x12000 :      520.37 GFlops  13.282753 sec
      16000x16000 :      513.37 GFlops  31.914848 sec
      20000x20000 :      529.94 GFlops  60.384750 sec
      24000x24000 :      527.48 GFlops 104.830872 sec
      28000x28000 :      531.57 GFlops 165.185028 sec
      32000x32000 :      532.28 GFlops 246.248505 sec
      36000x36000 :      534.82 GFlops 348.949265 sec
      40000x40000 :      534.56 GFlops 478.902863 sec

Aktiverar jag PBO håller sig frekvensen >=3,8 GHz även för mig. Ska man tro siffrorna du mäter här drar det ju 105A, inte 95A, så det kan förklara det hela.

Kravet för AM4 när det används ihop med en 105 W TDP CPU är att

• PPT på minst 142W

• TDC på minst 95A

Den enda egentliga fråga jag initialt stälde vad: vad betyder AMDs "basfrekvens", kan man t.ex. anta att ett system som uppfyller ovan kan hålla minst basfrekvens i AVX/FMA laster?

Har lite svårt att förstå varför vissa här verkar ta en sådan fråga som en personlig förolämplig. Om det känns bättre så lovar t.ex. inte Intel att deras CPUer fixar basfrekvens om AVX512 används, det som garanteras är minst basfrekvens minus offset. AMD har ju påpekat att 3000-serien inte har en AVX-offset, så då infinner sig just frågan: vad säger egentligen basfrekvensen?

Flippa inte över detta nu, men vill bara belysa att DGEMM (och SGEMM) inte på något sätt är "en smula speciellt". Det är tvärtom den största orsaken till varför CPUer idag har SIMD och FMA och orsaken till varför GPUer fungerar som de gör.

Matrismultiplikation följer detta

vad det översätts till om man har AVX/FMA är en serie av FMA-instruktioner helt utan hopp. Ju större matriser, ju längre blir serien av FMA.

Detta är orsaken till att man kan nå så extremt nära teoretisk maximal GFLOPS även i praktiken. Skylake-S når med bibliotek som OpenBLAS och MKL >=95 % av sitt teoretiska max.

Och var egentligen här jag började reagera när jag såg resultatet Puget Systems fick.
9900K presterar >95 % av sitt teoretiska max där.
9900X presterar ~80 % av teoretisk max om man räknar med basfrekvens, men då den kör AVX512 är faktiskt frekvens lägre.
2990WX presterar ~80 % av teoretisk max
3900X får endast 67 % av teoretisk max!!!

Kör jag DGEMM på en kärna och multiplicerar det med 12 (antalet kärnor då multiplikation av stora matriser skalar nära nog perfekt både med SIMD-lanes och kärnor) får man en mer rimlig 85 % av teoretisk max räknat mot basfrekvens och 77 % mot uppmätt frekvens. 75-80 % av teoretisk max känns som vad man skulle kunna förvänta sig, det är i nivå med Haswell som var Intels första AVX/FMA design.

Men finns en viktig teknisk skillnad i hur Prime95 använder AVX/FMA jämfört med SGEMM/DGEMM, en skillnad som kan förklara varför Skylake ser högre värmeutveckling i Prime95 men det kan inte förklara eventuella skillnader för Zen2.

"Huvudloopen" för DGEMM är en serien FMA. Det finns två sådana ALUs i Skylake medan Zen/Zen+/Zen2 kombinerar en MUL med en ADD kapabel pipeline för att få en FMA. Finns totalt fyra flyttalspipeliens i Zen/Zen2, så när två FMA körs är alla fyra pipelines upptagna.

Så för Zen/Zen2 borde Prime95 och SGEMM/DGEMM belasta rätt likvärdigt, om något lastar Prime95 lite mindre då ungefär var 3:e instruktion är en ADD/SUB som då bara låser upp två av fyra pipliens, koden är i grunden en lång serie av FMA/FMA/ADD/FMA/FMA/ADD... i Prime95.

För Intel hanteras SUB/ADD i en separat pipeline från FMA, så SGEMM/DGEMM kan egentligen bara utnyttja två av tre pipelines men Prime95 passar precis så att alla tre pipelines hela tiden kan jobba -> mer transistorer aktiveras!

Prime95 är en hyfsat "speciell" arbetslast. SGEMM/DGEMM är exakt vad SSE/AVX/FMA designades för!