AMD avslöjar Epyc "Rome" med 64 kärnor Zen 2 och PCI Express 4.0

Vad man hade i Naples var inte en 32-kärnors CPU, det var på alla OS- och program-relevant sätt fyra separata 8-kärnors CPUer. Är väldigt få fall där fyra åtta kärnors CPUer på något sätt går att använda på ett effektivt sätt, dock inte noll då det finns HPC-laster där det går bra.

Redan när man jobbar med Intel dual-socket (som är uppdelade i två minnes- och I/O-zoner, Naples är fyra zoner per socket) måste man specifikt tänka på systemkonfigurationen om man jobbar med prestandakritiska applikationer.

Risken att bara slänga ut något på marknaden är att de som köper v1.0 kan känna sig lurade om produkten inte fungerar bra, framförallt om det relativt kort efter dyker upp en ersättare som rättar till problemet.

Vad man nu har är något som verkligen kommer se ut och uppföra sig som en 64-kärnors CPU för OS och program (förutsatt att det inte finns andra detaljer vi ännu inte känner till).

Det man har nu är också en grunddesign som är välbeprövad, den borde inte prestera några stora överraskande hinder för OS- och programutvecklare.

Ren prestanda är väl vad som faktiskt tittas på här? Ena sekunden så hänvisar du till att ren prestanda ska vara normen för att sedan förkasta AMDs resultat med det extremt underliga argumentet "Två sekunder är ingenting"?

Men eftersom licenser kostar mycket så måste man spara in någonstans och då blir Epyc ett alternativ. Att Intel skulle kontra med något är inte heller troligt. De har väldokumenterade problem med sin tillverkningsteknik och deras svar på "AMDs" 7nm är minst ett år bort. Sedan byt ut kislet? Så ska jag tolka det som att du sitter på kretsar gjorda i annat material (som grafen)? För det har visat sig när andra företag har försökt så har de inte lyckats skapa ordentliga kretsar i annat material än just Kisel. Så det är inte så lätt att byta ut kisel när andra material inte visat sig vara i närheten av lika effektiva som Kisel.

Nej men om du sätter 1000st i samma serverrum är det bra mycket lättare att kyla den som producerar 50KW mindre värme. Och hårdvara för flera miljoner blir mer än en Rome så de 2sekunderna blir snabbt 200sek, 50W blir..... Du ser hur jag tänker.

Förstår inte hur det är nåt annat än imponerande då AMD som gått dåligt i 10år spöar CPUer för 230k med en som beräknas kosta en bråkdel och drar mindre ström. Du måste antingen vara lite partisk eller sjukt svår att imponera på.

Om 9900k hade kostat 500kr så hade du förstått folk som inte var imponerade av Intel?

Glöm heller inte att strömförsörjning är en stor bit också, inte bara kylning.
Ett rack med bladservrar har normalt redundant strömförsörjning där bägge sidor ska kunna mata ström på egen hand ifall den andre går ner.
En hall med rack fyllda med Xeon-AP hade behövt ett ganska ordentligt ställverk för att klara av allt.

Kör man hårdvara för flera miljoner så har man köpt tusen sådana här system, och då är det inte längre 50W skillnad utan 50kW. Det blir en halv miljon per år bara i elräkning. Lägg sen till kostnaden att luftkonditionera serverhallen.

Vad jag förstått så är det just "kunder som kör hårdvara för flera miljoner" som gråter över skillnader i strömförbrukning.

Jag är på intet sätt ute efter att ifrågasätta det du skriver om "prestandakritiska applikationer". För en som mig, som varken jobbar eller känner till CPU arkitekturer på din nivå, är det mer intressant att jämföra uppgiften servern ska utföra. Jag tror även det skulle vara intressant för andra att du listar konkreta servertillämpningar för långvarig drift där Epyc inte lämpar sig, eller åtminstone inte är optimal. Egentligen skulle man behöva en pris/energiförbrukning/prestanda-jämförelse, fast det får väl dras lite ifrån höften.

Lite olika scenarior där Epyc är ett bra val:

• Virtualisering, där antal kärnor är av intresse

• Servrar som inte behöver stor beräkningskraft, och där Epyc med färre kärnor väljs, men där Epycs stora antalet PCIe banor öppnar upp för t ex många NVMe enheter

• Uppgraderingar där pga olika begränsningar, t ex energiförbrukning, 1-socket 1U system med Epyc gör stor skillnad till ett billigare pris, och särskilt om det handlar om stora mängder

Vad gäller databaser verkar det vara lite skillnader beroende på typ. För typer av NoSQL, som jag är mest intresserad av, verkar skillnaderna mellan Intel och AMD vara försumbara, där Epyc pga priset ter sig riktigt bra och här skulle ju antalet PCIe banor återigen bli av intresse.

Så ja, det skulle vara intressant att utifrån ett sådant scenario läsa vad du har för tankar.

Det är bedömt viktigt när man uttrycker sig i ord att man väljer rätt ord. @xinpei svarar vad jag kan se sakligt och vettigt på dina stundvis svårtolkade uttalanden. Du tycks kalla enkeltrådsprestanda för "ren" prestanda och anser att det är självklart att AMDs CPU är billigare än Intels närmast motsvarande lösningar, både de som finns idag och de som kommer i framtiden?

OnT: 128 trådar i en sockel. Ojojoj, här ska kompileras!

Skickades från m.sweclockers.com

Har det inte slagit dig in att det kanske beror på att du inte är tydlig nog? Bara ett tips med tanke på att fler än enbart jag har tolkat dina kommentarer på det sättet.

Känns så också. Om man vill driva applikationer som verkligen gagnas av enkeltrådig prestanda så är ju inte direkt Epyc värt utgifter.. eller Xeon för den delen heller utan då borde en i9 9900K räcka. För både Epyc och Xeons "sellpoint" i detta exempel är ju antal kärnor och trådar.

Virtualisering

Läser man AMDs egna whitepaper om Epyc så hävdas där att en typisk VM tilldelas <=4 kärnor fast det finns fall som använder upp mot 8 st. Kanske inte helt ofärgat beskrivet givet att man råkar ha en 8 kärnors byggsten, men tror ändå man träffar rätt bra här (är få enskilda funktioner som har någon större nytta av mer än fyra CPU-trådar).

En självklarhet i dessa fall är att man inte vill att en enskild VM-instans någonsin ska köra i mer än en NUMA-zon, det är sant vare sig man kör på AMD, Intel eller någon av ARM systemen.

Trivial kombinatorik säger att det är långt mycket enklare att utnyttja sina tillgängliga CPU-resurser på ett system med två st 16-kärninga CPUer än på ett med fyra åtta-kärninga CPUer. Det optimala ur nyttjandegradssynpunkt är naturligtvis en monolitiskt CPU, men det är i praktiken alltid den dyraste i inköp inom varje produktfamilj (32-kärnor Thunder X2 är trots allt billigare än AMD/Intels 16-kärniga modeller...).

Så i Intel-fallet skulle bara en komplett idiot köpa in en Xeon 8180 Platinum om det fungerar lika bra med två st 16 kärniga Xeon Gold som kostar hälften till en fjärdel ihop (beroende på modell) jämfört med en 8180. Två Xeon Gold ger totalt 124 PCIe, två sex-kärninga minneskanaler och man kan välja TDP från 85 W till 205 W beroende på krav. 205 W kanske inte är lämpligt i ett 1U rack...

Sen undrar jag hur många system där CPU-kraft verkligen är den resurs som tar slut. Varierar naturligtvis mellan användarfall, men i de fall jag jobbat med är I/O typiskt flaskhalsen. I det fallet är saker som kostnad för vm-enter/vm-exit samt vilket HW-stöd som finns för att undvika vm-exit långt viktigare än antal CPU-kärnor.

Serverar som inte behöver stor beräkningskraft

Två Xeon Silver är både billigare än motsvarande Epyc, ger endast två NUMA-noder mot fyra och det är i runda slängar dubbel bandbredd mellan NUMA-noderna (tredubbelt om man kör Xeon Gold 6xxx eller Platinum) på Intel när den har två NUMA-noder, vid fyra är det samma som för Epyc.

Problemet här med fyra NUMA-noder är att även I/O är uppdelad i fyra zoner. Det finns en relativt begränsad bandbredd mellan CPU-chiplets, en bandbredd som delas mellan PCIe enheter som sitter på "fel" CPU-krets (vilket är 3/4 på Epyc men bara 1/2 i en dual-socket Intel), minnesaccesser mellan NUMA-noder samt cache-koherens.

I den design AMD valt för Rome löser man det mesta av den problematiken, man har kvar cache-koherens och råder lite delade gissningar mellan hur PCIe fungerar. Jag är dock övertygad om att I/O-kretsen kommer hantera även PCIe, det löser i så fall helt den problematiken.

Förutom bandbreddsproblemet, som bara är ett problem vid hög last, får man alltid ett latensproblem med Naples designen för all I/O som går till "fel" CPU-krets. Spelar inte roll i vissa fall, men är helt avgörande för vilka "worst-case" garantier man kan ge.

Uppgraderingar

Ser överhuvudtaget inte vilken fördel som skulle finnas här. Man måste inte köpa Xeon 8180 eller någon annan 205 W TDP modell, finns rätt många SKUs att välja på.

Är snarare så att det just på denna punkt finns långt mer flexibilitet hos Intel och Cavium (Thunder X2) då de har en flora av TDP-nivåer och kärn-konfigurationer att välja på.

NoSQL

Kan mycket väl fungera bra över flera NUMA-noder förutsatt att vad du gör nästan enbart består av läsningar. Så fort du får in en hyfsad andel skrivningar blir det en väsentligt fördel att ha så få NUMA-noder som möjligt.