Dator för Machine Learning (GPU-krävande)

Permalänk
Medlem

Dator för Machine Learning (GPU-krävande)

Hej!

Vi ska bygga ihop en dator på jobbet för att använda inom Machine Learning. Vi kommer att köra Linux och använda CUDA för beräkningar.

Vad tror ni om datorn nedan?

2x ASUS GeForce GTX 1080 8GB TURBO (TURBO-GTX1080-8G) + Be The Hero
Intel Core i7-7700K - 8 trådar / 4.2GHz (4,5Ghz Turbo) / 8MB / Socket 1151
ASUS Z170 Pro Gaming - ATX / Z170
Corsair Vengeance LPX 16GB (2x8GB) / 2666MHz / DDR4 / CL16 / CMK16GX4M2A2666C16
Samsung SSD 850 EVO SSD 500GB (MZ-75E500B/EU)
Fractal Design Define R5 - Black Pearl (Ej PSU)
EVGA PowerSupply (PSU) SuperNOVA G2 850W
ASUS Blu-ray-läsare / DVD brännare (BC-12D2HT/BLK/G/AS)

Mvh
Cray

Permalänk
Medlem

Spännande projekt.
Men har du nytta av en överklockningsbar CPU och moderkort?

Jag har sett liknande lösningar inom industrin där man använt pentium processor och snabba grafikkort.

Permalänk
Medlem

om man har pengar i åtanke skulle man inte få ut mer av att sätta in exempelvis 4st r 480 istället och lägga mer pengar på nätagg eller har jag helt fel där, det är ju inte crossfire som kommer att användas så man får ju bra scaling med fler kort när man inte spelar dvs.

Permalänk
Medlem
Skrivet av TrapTard:

om man har pengar i åtanke skulle man inte få ut mer av att sätta in exempelvis 4st r 480 istället och lägga mer pengar på nätagg eller har jag helt fel där, det är ju inte crossfire som kommer att användas så man får ju bra scaling med fler kort när man inte spelar dvs.

Lite svårt att köra CUDA på AMD-kort bara

Angående datorn, välj ett Z270-moderkort istället. Z170 kräver en BIOS-uppdatering för att fungera med 7700K, vilket kräver att du har en gammal Skylake-CPU som du kan använda under uppdateringen. I övrigt finns väl inte så mycket att anmärka på.

Permalänk
Medlem
Skrivet av jensws:

Spännande projekt.
Men har du nytta av en överklockningsbar CPU och moderkort?

Jag har sett liknande lösningar inom industrin där man använt pentium processor och snabba grafikkort.

Egentligen inte, jag bara plockade en i7:a och fick en med K insåg jag nu :). Dock vill vi ha en i7:a men jag backar på K och tar en enklare.

Permalänk
Medlem
Skrivet av TrapTard:

om man har pengar i åtanke skulle man inte få ut mer av att sätta in exempelvis 4st r 480 istället och lägga mer pengar på nätagg eller har jag helt fel där, det är ju inte crossfire som kommer att användas så man får ju bra scaling med fler kort när man inte spelar dvs.

Som sagt är det nVidia som gäller inom Machine Learning.

Permalänk
Medlem
Skrivet av perost:

Lite svårt att köra CUDA på AMD-kort bara

Angående datorn, välj ett Z270-moderkort istället. Z170 kräver en BIOS-uppdatering för att fungera med 7700K, vilket kräver att du har en gammal Skylake-CPU som du kan använda under uppdateringen. I övrigt finns väl inte så mycket att anmärka på.

Bra, tack! Ska tänka på den matchningen. Det var ett tag sedan jag slängde ihop en burk så jag är lite ringrostig :).

Permalänk
Medlem
Skrivet av Cray:

Egentligen inte, jag bara plockade en i7:a och fick en med K insåg jag nu :). Dock vill vi ha en i7:a men jag backar på K och tar en enklare.

K:et betyder i det här fallet inte bara att den går att överklocka, 7700K har även högre frekvens än 7700 (4.2GHz vs 3.6GHz, turbo 4.5GHz vs. 4.2GHz).

Ska ni köra beräkningar som skalar bra med antalet kärnor på CPUn så kan ni även ta en titt på nya Ryzen. Dubbelt så många kärnor till ungefär samma pris, men lite sämre prestanda per kärna. Se till att välja ett X370-moderkort i så fall bara, på de billigare moderkorten blir extra grafikkort ganska rejält strypta.

Permalänk
Medlem

@perost: tänkte inte så långt men bara tanken var ju att använda fler billigare kort och på så sätt få mer beräkningskraft, så man behöver inte köpa bästa korten om man inte har riktig serververksamhet där faktorn ligger på strömförbrukning(även fast man inte skulle sätta en 1080 där då de inte har ecc). så antar bara att tidsmässigt så skulle det hjälpa inom någon nogorlunda budgjet, man kan alltid klämma på 36 st quadro kort om man vill host host skit billigt

Permalänk
Medlem
Skrivet av perost:

K:et betyder i det här fallet inte bara att den går att överklocka, 7700K har även högre frekvens än 7700 (4.2GHz vs 3.6GHz, turbo 4.5GHz vs. 4.2GHz).

Ska ni köra beräkningar som skalar bra med antalet kärnor på CPUn så kan ni även ta en titt på nya Ryzen. Dubbelt så många kärnor till ungefär samma pris, men lite sämre prestanda per kärna. Se till att välja ett X370-moderkort i så fall bara, på de billigare moderkorten blir extra grafikkort ganska rejält strypta.

Ok, tack!

Jag ska spana in Ryzen.

Permalänk
Medlem

Mer minne, rent sponstant så känns inte datorn så workstation aktig om man ska använda den för ändamålet.

Permalänk
Medlem

Vad du behöver beror helt på vad för typ och storlek av arbete ni tänker göra, samt mjukvarumiljö, då bl a bibliotek påverkar kostnadseffektiviteten och val av GPU (mängden minne, antal CUDA cores, etc). Vill ni ha möjlighet att skala upp till ännu fler GPUn blir bygget antagligen helt annorlunda.

Oavsett vilket är en i7 antagligen enorm overkill, sist jag läste upp på ämnet var det en core (med HT) per GPU som gällde. Sen beror mycket på vad det är för typ av arbete, val av bibliotek, antal program som körs, hur mycket data som ska skickas fram och tillbaks, hur mycket CPU ska hålla reda på (mer än "vanligt" [läs: mata GPUs med data, ta emot, hålla koll på några variabler osv]), vilka bottlenecks kommer befinna sig, etc.

Så, det beror på. Just nu känns det som att builden är ett hopplock som inte vet vad den ska användas till. Jag är lite förvånad att ingen frågat efter ändamål med systemet då när folk vill bygga en speldator brukar det hagla in frågor om vilka spel, vilka settings, vilken upplösning, planer på expanderingar i framtiden, budget, osv. Dessa faktorer är lika relevanta även med arbetsmaskiner.

Och snåla inte på mängden RAM.

Permalänk
Avstängd

mullet.se

varför inte sätta ihop en riktig arbetsdator med ecc minne, och server-moderkort, som är gjord för att vara i arbete 24/7...

https://www.komplett.se/product/877151/datorutrustning/pc-kom...

Visa signatur

Linux + AMD 1055T, Kingston 16GB ECC, Asus M5A88-M EVO, Sapphire 5850, Antec P180 mini, Cooler Master Silent Pro M600