AMD lanserar Threadripper 9000-serien

Fantastiska specifikationer, synd att konsumentplattformen har 100 färre banor.

Tja, om Microsoft Flight Simulator 2024 hade varit bättre trådad och optimerad så hade kanske den här kunnat få den att gå jämnt och fint även på marken i en högdetaljerad och vältrafikerad flygplats, där det nu kan cpu-flaska ner mot 10-30 fps även med en 9800x3d och ett high-end grafikkort. Meen, jag tror inte ens den här prytteln kan få det spelet att rulla perfekt.
Behövs lite mer optimering på spelet där, väl uppe i luften flyter det fint ju. Nä, den här hör nog hemma i serversammanhang, eller multitrådade laster av annan sort.

Men på den tiden så var det i princip bara 2 av deras vanliga CCD. Threadripper idag är mycket mer som en EPYC där hela arkitekturen är mer påkostad.
Med tanke på att de 8-kärniga fortfarande är deras huvudsakliga processorer med 6-kärnor för billigare. Så kan man lite se 9950X som det som 1950X skall jämföras med.

300mhz/kärna mer än 7980x? Kan nog spara ett par minuter.

Härligt, blir att beställa direkt (i jobbet).
Alltså seriöst, ska beställa någon sådan i närtid till en rejäl arbetsstation med budget på 250k (ex moms).
Får se vad man kan klämma in där.
96 kärnor lär vara för mycket för vad den ska användas till, men ev 64 kanske det kan bli.

Threadripper lät coolt en gång i tiden.

Terminator……
Det är bad ass.

Dags för Amd att step it up

Asrock X399 Fatal1ty| Threadripper 1950X| Noctua NH-U14S TR4-SP3| Corsair Vengeance LPX 8x16GB 3200 C16 räcker fortfarande för mig.

Vad jobbar du med?

Helt klart är CPUerna med runt 100 CPU-kärnor och ovanpå det fortfarande ger riktigt OK prestanda per kärna en fantastisk uppvisning i ingenjörskonst.

Men frågan specifikt för HEDT med den typen av CPUer är "vad ska man ha dem till?".

För det här skulle jag säga är rätt dålig reklam
"Enligt AMD är den 124 procent snabbare än Intels 60-kärniga Xeon W9-3595X i Cinebench "

Så med andra ord: långsammare än en MacBook Pro med M4 Max... Och flera gånger långsammare än Nvidias topp RTX-GPUer.

Att klämma in 100-kärnor i datacenter CPUer har ju en gigantisk poäng: "ingen" kommer använda alla kärnor för ett program, men här är ju normalfallet att man delar upp systemet i massor med rätt små instanser (sett uppskattningar på att median-storleken för en AWS-instans är 4-8 vCPU, så motsvarande 2-4 kärnor med SMT...). Fördelen med många kärnor per CPU är här främst att det sparar ström, utrymme och därmed ger bättre TCO.

Det finns absolut use-case som kan utnyttja många CPU-kärnor, det Nvidia har visat är att de flesta (men inte alla!) av dessa fall körs långt mer effektivt på GPGPU. Så vore kul att höra vad som folk gör med den här typen av system där system likt Threadripper fortfarande är högst relevant. Enda jag kommer på är byggservers för massiva projekt (det är ett exempel som kan effektivt utnyttja många kärnor, men som inte alls passar GPGPU).

Går också i liknande tankar för att uppgradera existerande system. Skulle dock behöva se fler benchmarks som inte är fokuserade på prestanda i spel utan för krävande beräkningsbehov.

Simuleringar! (där mjukvaran endast använder CPUn). Dessa kör jag nu på i9-14900K men vissa simuleringar kan ta 9-10 timmar att köra när jag har reducerat dom. Det skulle därför vara skönt att kunna göra fler samtidigt utan att tiden dubbleras.
Även vissa renderingar som görs bättre på CPU än på GPU kan maxa CPUn ganska länge.

Är helt med på att det finns t.ex. simuleringar som körs mer effektivt på CPU. Sitter själv just nu med ett sådant fall, det tyvärr inte ovanligt att man har simuleringar med en del sekventiella moment (och där är CPU överlägsen GPU p.g.a. överlägsen ST-prestanda).

Frågan var primärt: vilka relevant fall finns idag som dels skalar tillräckligt bra för att man ska få god utväxling på 50-100 CPU-kärnor, men ändå inte går att köra på GPGPU?

En stor begränsning tidigare för GPGPU var begränsad tillgång på VRAM. De plattformar vi nu ser från Nvidia, AMD och Apple (ryktet säger att även Intel ska få ut något under 2026) med relativt stora iGPU:er hanterar den bristen i de flesta fall (DGX Spark är konsumentversionen, finns ju en variant som är mer lik Apple Ultra-serie där man har tillgång till mer RAM än 128 GB).

Kvar för HEDT blir då den extremt smala nisch med fall som skalar väldigt väl med kärnor, men ändå inte fungerar på GPGPU. Skulle vara kul att höra specifikt vad folk gör som hamnar inom denna nisch. Kompilering är som sagt ett sådant fall, rent generellt är fall som består av många sinsemellan oberoende fall fast med varje fall i sig är väldigt komplext det som hamnar här.

Det är dock en väldigt smal nisch. Det normala är att begränsad skalaning över kärnor, då är CPU att föredra och specifikt en med maximal ST-prestanda, eller så går det i dag väsentligt snabbare att köra med GPGPU (rendering, AI, de flesta simuleringar, bild/video-behandling).

Jag köpte min threadripper förra året och maxar antal kärnor dagligen i flera timmar. Visst har gpu:er tagit över tronen men det finns fortfarande mjukvara som vill ha mer kräm. Igår såg jag t.ex. en arbetsflöde för comfyai som maxade både gpu och CPU samtidigt och jag började svetta direkt 1. Aldrig sett det tidigare och 2. Bor i Malaga och det var över 30 i solen. Blev garanterat 35-40 grader i mancaven med 100% utilization på CPU och gpu. Normalt så är det antingen 100% CPU eller 100% gpu. Men aldrig båda samtidigt. Nu är ai väldigt liten del av mitt arbete men lokal ai börjar ändå bli helt ok. Som 3D-tomte/kreatör så ser jag inga problem med att vänta 10 timmar för att ”bygga” en egen liten model som marknadsavdelningen kan använda för all framtid. Tyvärr är den processen bara på gpu sidan.

Rendering verkar vara något där CPU;er inte kommer fasas ut helt på länge. VRAM är förstås en faktor men det tycks också vara så att CPU;er är bättre lämpade för mer komplexa beräkningar av ljus. Direkt ljus med strålspårning är GPU;er överlägsna på eftersom det handlar om att göra samma beräkningar på olika data. Vid indirekt ljus kan man behöva, eller i varje fall vilja, köra olika beräkningar.
Det här är förvisso något jag hört från en Corona-utvecklare, och Corona är en CPU-renderare, så det är möjligt att frågan går att debattera. Industrin har dock varit långsam att anamma GPU-rendering, även om användningen ökar.

Med det sagt vill jag understryka att jag inte gillar tingens ordning. För mig känns CPU-rendering primitivt (och sitter man inte i en dyr produktionsmiljö förefaller det vara slöseri med tid). Lever man i den världen kan det dock vara motiverat med en såndäringa trådslitare.

Jag tycker det är kul att de använder cinbench för att skryta med prestandan istället för något vettigt och användbart.

Finns nog ingen som köper denna för att nöta cinbench. Kan ens cinbench skala med alla trådar?

I t ex blenders renderingsmotor Cycles finns det vissa funktioner, som också är riktigt bra, som bara fungerar på CPU. En sån är funktionen som använder Intels Open PGL för att sampla "ljus" bättre för att kraftigt snabba upp och förbättra vissa typer av scener.
Dessutom är renderingar på GPU begränsade till grafikminnets storlek. Även med en RTX 5090 med 32 GB kan det vara på tok för lite för en stor och komplex scen, medan 256 GB RAM är förhållandevis enkelt att lösa med en modern processor.

Det finns logik i att använda Cinebench just p.g.a att det är en av få, antagligen det enda, program som en lite större publik känner till och som faktiskt har nära nog perfekt skalning till ~100 CPU-kärnor. Det om man tittar på CB2024, möjligen även CB2023. Tidigare versioner hade problem med skalning när antalet kärnor drog iväg med HEDT.

Rent generellt skalar de flesta fall som fungerar bra med GPGPU upp till >100 kärnor, i alla fall så länge som inte RAM-bandbredd blir en flaskhals (vilket är huvudbegränsningen med t.ex. LLMs).

Det som ändå gör CB2024 till tveksam PR-benchmark för HEDT 2025 är just då man får så brutalt mycket högre resultat med GPGPU.

Är helt övertygad om att det fortfarande finns vettiga fall för HEDT. Kan dock inte säga vad det är, så skulle vara kul om någon man ge lite konkreta exempel!

Att sen det är lite lurigt är inte så konstigt om man betänker att totala marknaden för HEDT CPUer är låga 10-tusentals per år numera, d.v.s. det säljs någonstans mellan 20k-50k desktop CPUer per HEDT-CPU, och 100k-250k PC-CPUer per HEDT-CPU. I.e. även på SweC är det statistiskt sett någon enstaka brukare av dessa system.

Både OpenPGL och OIDN (Intel Open Image Denoise) används ju i Blender och körs på CPU. Men det är fortfarande inget som är vettigt på en 96 kärnors CPU då skalningen är relativt linjär upp till 8-16 kärnor för att sedan vika av. Rätt liten skalning efter 64 kärnor.

Läser man om OpenPGL så står det att man jobbar på GPGPU-stöd. I fallet OIDN finns redan motsvarande funktion med GPGPU-stöd på Nvidia GPUer och det finns även beta-nivå stöd för Apple GPUer.

Ju bättre stöd GPUer får för ray-tracing, ju färre av nischfallen som finns kvar i form av t.ex. extremt komplex ljussättning (som även det ofta kommer ha begränsad skalning med CPU-kärnor just p.g.a. att del av komplexiteten är korsvisa beroenden).

Kapaciteten för VRAM har historisk varit en klar begränsning för vad som är möjligt med GPGPU. AI-hypen har ändrat på det. Nvidia/AMD GPUer med 100-256 GB VRAM må kosta 200-300 kSEK, men de finns om man har behovet. En MacStudio med 512 GB RAM kostar ungefär lika mycket som bara CPUn till nuvarande TR-generation med 96 kärnor.

Så just denna begränsning är ett idag ett icke-problem givet att även "proffsnivå Blender maskiner" har RAM-behov i spannet 64-128 GB (en nivå Apple, AMD och snart också Nvidia alla har i sammanhanget billiga iGPU-lösningar som erbjuder).