i9 13900k eller Ryzen 9 7950X3D?

Virtualbox verkar vara en ganska förenklad implementation som låter hosten göra mycket av arbetet, här blir kanske hybrid-cpu inte ett problem i något scenario pga det.

I t.ex KVM/QEMU eller VMWare finns det dock avancerade scenarion där det finns tydliga begränsningar i dessa innan dessa hypervisors har fullt ut implementerat stöd för hybrid-CPUer.
Denna RFC skulle inte finnas om allt var perfekt idag: https://www.mail-archive.com/qemu-devel@nongnu.org/msg939413.html

Sen som du redan är inne på behöver man hålla tungan rätt i mun vad gäller power plans i windows och hur saker schemaläggs.

Med allt det här sagt så har man inga av dessa problem eller utmaningar med en icke hybrid-cpu. Så vi kanske kan vara överens om att det är betydligt mer smärtfritt åtminstone att använda homogen CPU för detta use case idag?

Finns det någon bra anledning att välja hybrid framför homogen om virtualisering är ett primärt use case?

Ser bra ut tycker jag!
Beroende på hur många/mycket laster du kör kanske det kan vara värt att kolla på 96gb RAM.
Viss prispremie men då får du maximal banbredd/hastighet på 96 gb istf för sämre bandbredd om du väljer att lägga på 2*32 gb till sen för att ha 128 gb totalt.
Exempel: https://www.inet.se/produkt/5306170/corsair-96gb-2x48gb-ddr5-5600mhz-cl40-vengeance

Som jag fattar RFC så är detta inte något som ska göras för att få asymmetrisk CPU att köra bättre på QEMU. Istället är det en utökning av system-emulering i QEMU så den, utöver att kunna emulera symmetriska multiprocessor system, även ska kunna emulera asymmetriska sådana.

Sen angående det andra: självklart blir det mer komplext att hantera ett system med fler rattar. Huruvida det är värt det beror helt på use-case. Känner inte själv att jag kan ge TS ett vettig råd (mer än att det inte längre är ett problem att köra på asymmetriska CPUer, förutsatt man förstår sitt use-case), behöver betydligt mer detaljer för det.

För egen del har det definitivt inte varit några hinder att köra asymmetrisk CPU, men kör i praktiken bara Docker desktop på Windows (WSL2/HyperV) och framförallt på MacOS (HyperKit) (så 4+4, 8+2, 8+4 och snart 12+4 konfig)

Fall där det kan vara en direkt fördel med någon likt 13900K/14900K ihop med virtualisering är fall där konsekvent prestanda är viktigare än peak-prestanda, så vissa former av realtidapplikationer. I det läger är det bäst att i stort sätt dedicera kärnro till VMs, lättare att göra det om man har 8+16 kärnor mot om man "bara" har 16 kärnor. Men är självklart ett nischfall.

Då låter det som dina VM:ar inte alls är "compute-bound". Om det stämmer är det i första hand rejält med RAM du bör prioritera och eventuellt bra I/O (om de gör mycket I/O, annars bara RAM), några extra kärnor hit eller dit lär inte spela någon större roll då.

Vill du slippa värmeproblem finns ju "icke-X" versioner av AMDs CPUer och "icke-K" versioner av Intel. Båda drar rejält mindre effekt. Är i.o.f.s möjligt att konfigurera en Intel K CPU som en icke-K via BIOS, tror samma går att göra med Ryzen (vilket jag borde veta givet att mina desktops kör 3900X, 5950X samt grabben har en 7800X3D, men har aldrig kollat...).

Använder 13600K och 13700K en hel del ihop med Docker Desktop på Windows i andra sammanhang, det har fungerat utmärkt (angående det som står ovan). 13600K är i praktiken konsekvent snabbare än min 5950X, även all-core, så någon nytta gör E-cores...

Edit: angående RAM, har haft 128 GB RAM i 5950X systemet sedan start (köptes 1H 2021). Det har fungerat bra "trots" att det är en max:ad konsument-plattform.

Vad gör du i dina VM:ar? Som @andelf förslår, kanske värt att försöka begripa Docker för detta känns som ett fall där den overhead man får av varje VM är rätt rejäl. Kör man Docker kan man köra massor med "containers", men man tar bara kostanden för VM en gång oavsett antal aktiva containers.

Men ja, det du visar ovan är rejält CPU-bundet. Mycket sannolikt, men inte självklart att det blir väsentligt bättre med fler CPU-kärnor. Beror lite på varför det drar så mycket CPU-kraft.

Sen till ursprungsfrågan: i genomsnitt är 13900K (eller 14900K idag) och 7950X/7950X3D rätt snarlika i prestanda. Men för vissa specifika fall kan det tilta över rätt mycket åt enda eller andra hållet, så går inte säga generellt vad som är optimalt här utan behövs rätt mycket detaljer.

Lite fler alternativ:

Om Docker känns svårt att sätta sig in i så kan linux containers vara ett steg på vägen som skulle kunna öka densiteten på antal "VMs" man kan köra samtidigt. Då skulle man kunna köra en fet Linux VM där man i sin tur lägger sina "container" VMs. Fördel där är att varje container drar mycket mindre minne än en "vanlig" VM. Lite som Docker fast mer likt en traditionell VM.
Det kräver dock att man kör en workload som går att köra på Linux.

Virtualbox ger nog också mer overhead än andra möjliga alternativ, åtminstone under Windows. Under Windows är Hyper-v ett bättre alternativ spontant för att få ut maximal prestanda.
Vilket OS körs i VM?

Bara jag som blir lite nyfiken på vad som driver någon till att vilja köra enorma mängder VM's på en typ 2 hypervisor?

Kör du samma Ubuntu-applikation i alla, flera olika program men alla/vissa körs i många instanser eller är det olika program i varje instans?

Oavsett, men givet att alla kör Ubuntu, finns ännu ett alternativ som kommer vara långt mer effektiv än att köra en Virtualbox VM per Ubuntu instans: WSL2.

WSL2 kör en paravirtualiserad version av t.ex. Ubuntu (går att köra andra distro, har själv bara kört WSL2 med Ubuntu server LTS:er). Är Microsoft själva om står för support till OS-kärnan och man jobbar ihop med Canonical kring Ubuntu WSL, så väldigt bra integrerad med Windows.

Installationen görs på någon minut via Microsoft store. Nvidia har integration med WSL2 så att HW-acceleration via CUDA fungerar i Ubuntu som körs på en Windows-dator med Nvidia GPU, Intel ska ha motsvarande support för deras GPUer (men har aldrig testat).

Att köra program under WSL2 har i de flesta fall väldigt nära samma prestanda som att köra Ubuntu direkt på datorn, typiskt >95 % av "native" hastighet i de fall jag mätt på.

Skulle säga att det nog är WSL2 du ska testa först här. Finns en chans att det är så pass mycket effektivare att ditt nuvarande system hänger med rätt väl. Och även om du tänker uppgradera är det värt att göra denna övergång först, fullt möjligt att primär flaskhals blir något annat än med massa VM:ar så det blir andra saker som ska prioriteras vid uppgradering.

Vilken riktning går VPN-uppkopplingen? Är den från instanserna till något, eller behöver man kunna adressera instanserna för att sätta upp VPN-tunnel?

Varför behöver varje instans en egen VPN-tunnel? Skulle flera script kunna använda samma tunnel?

Vilken VPN-teknik är det? Wireguard? OpenVPN? (Båda dessa är inga problem att köra med WSL2). Något annat?

Så länge VPN går från instanserna till "något", så bör det inte vara något problem att köra med WSL2.

Sen undrar jag: varför kan inte flera scripts köra i samma instans? Varför behövs isoleringen? Om den behövs är det VM eller Docker som är svaret, om det inte behövs kommer WSL2 reducera mängden resurser som behövs brutalt mycket!