Permalänk
Medlem

Bygge av dedikerad foldingrigg; 32 kärnor

Uppdatering 2015-09-13: Maskinen har nu bytt ägare, till en annan medlem här på forumet som jag litar på tar väl hand om den.
Den nye ägaren får göra sig själv tillkänna om denne så önskar, inget jag kommer att röja.
Galleriet ligger kvar då det kan gagna andra som tänker i banor om att bygga liknande.

Jag har nu bidragit med beräkningskraft åt projektet Folding at Home (https://folding.stanford.edu/) i ungefär ett år. Efter ett par månader fick jag upp ögonen för multiprocessorsystem, och vad dessa kan bidra med.

Jag läste mycket om dem, hur andra gjort, och vad de är kapabla att dra in för poängsummor till laget såklart
-Till slut gjorde jag slag i saken och köpte mig fyra st 8-kärniga processorer på Ebay. Processorerna har klockfrekvensen 2,0GHz och är av typen "Highly Efficient", dvs. effektivare än standardmodellen, och drar således mindre effekt.

Nätaggregatet som valdes var ett Fractal Design Newton R3, 1000W. Till processorkylning valdes fyra st CoolerMaster Hyper 212 Evo eftersom dessa med små modifikationer kan användas till G34-sockeln.

Sedan var det dags att köpa sig ett moderkort. Ett välbeprövat sådant i dessa kretsar av folding, är Supermicros H8QGL-IF+. Här var det större orosmomentet vilka minnen som passade. Det minne som rekommenderades kunde jag inte få tag på, och avbröt min order av sådana på Amazon efter månaders väntan. Istället beställde jag mig 4st 2GB minnen från Dustinhome och hoppades på att de skulle fungera. Samtidigt köpte jag mig moderkortet från Ebay.

När jag fått alla delarna så här långt, testade jag lite snabbt så att det startade upp med en processor installerad. Det vart ett riktigt fulhack, med en nedklippt Intel stock-kylare monterad. Allt startade dock som det skulle, och minnena identifierades. Nu kunde jag beställa resten av minnena. Även då kortet har plats för 16 minnen, köpte jag 18st för att gardera mig ifall att något av dem skulle failera. Nu i efterhand ser jag extra bra på att jag gjorde detta, eftersom de nu har gått ur Dustinhome's sortiment.

Eftersom moderkortet har fyra krafttörstiga CPU'er kraftmatas det inte bara via den vanliga ATX-moderkortskontakten och en 8-pol EPS12V, utan det finns ytterligare två EPS12V-kontakter på kortet. För att säkerställa att nog kraft finns till kortet behöver jag således få till två sådana kablar till. Till nätaggregatet följer förvisso en extra EPS12V-kabel, men eftersom det även har två fastmonterade PCI-Express-matningskablar, så ville jag använda dem. Detta för att inte göra ett ormbo av kabel i ett eventuellt chassie. Dessutom ville jag göra dem med kontakter, så att nätaggregatet snabbt och enkelt kan bytas ut om behov uppstår. Lösningen är en hemmatillverkad adapter från PCI-express till EPS12V. Det är bättre än inget, men inte fullt lika bra som att dra nya trådar till nätaggregatet, eftersom PCI-express har 3 trådar 12V och 5 trådar GND, medan EPS12V har 4 trådar av vardera.
(En varning till er alla dock, Kjell&Co's förlängningskabel för PCI-Express (68778) är inte det, utan en EPS12V-förlängare! Jag har påpekat det för dem, men har inte sett någon förändring. Den går att tvinga in i en PCI-express-kontakt, men då hamnar polerna fel och risk finns för kortslutning och/eller brända grafikkort!!) -Jag köpte istället delarna på Inet, klippte, lödde, och isolerade med krympslang.

Från början hade jag tänkt mig att bygga in datorn i en låda modell större, eventuellt en Obsidian 900D. Jag ställde en fråga här på forument, till tillverkarens representant (http://www.sweclockers.com/forum/127-corsair/1204427-installa...), men fick inget lovande svar. Kanske var det jag som ställde frågan fel, kanske var det personen som svarade som inte förstod att jag tänkt modifiera chassiet.
Reservplanen var att bygga ett testbänksliknande chassie av ett som jag redan hade hemma, en gammal Compaq. Täcklocket skulle helt sonika tas av, lådan läggas ned, och moderkortet monteras på utsidan, ovanpå lådan (baksidan av moderkortsplåten). Moderkortet hade stuckit ut en del över kanten, men det skulle inte göra så mycket. Vart det gick i kras var istället när jag skulle testmontera nätaggregatet; det fick inte plats! En modifikation hade blivit alldeles för mycket jobb beroende på lådans uppbyggnad, så även denna ide lades åt sidan.
Vändpunkten kom när jag läste om ODDNAME's 3D-skrivarbygge i forumet (http://www.sweclockers.com/forum/5-modifikationer-och-egna-ko...) och fick upp ögonen för Makerbeam (http://www.makerbeam.eu/), och sedan Openbeam som de också saluför. Jag köpte mig ett set med förkapade bitar, och kompletterade med tre st enmetersbitar. Med hjälp av en arbetsgivare som tillåter lite egna projekt med material från jobbet, skrev jag ut fästen och vinklar i en 3D-skrivare, och monterade ihop en egen låda. Planen är att skjuta i 3mm pleiglas, eller liknande i spåren, men detta är för tillfället skjutet på framtiden.

För att fästa processorkylarna blev det många turer till verkstaden på jobbet, för att modifiera hålbilden i de fästbeslag jag inhandlat på Clasohlson. Många svordomar senare bestämde jag mig för att skriva ut dem istället! Så länga de hålls någotlunda svala så bör de hålla i åtminstone ett par månader..
På baksidan av moderkortet sitter det beslag med invändigt gängade rör som sticker igenom moderkortet för fäste av processorkylare. Dessa är gängade med UNC 6-32, dvs grov tumgänga. Det är denna typ som ofta kallas hårddisk-, eller datorlådeskruv, dvs. den lite grövre gängade skruv som ofta återfinns i datorer. Detta ställde till det för fäste av kylarna.. Jag beställde skruv med denna gänga på Sparkfun, men fick överge iden då jag inte kom åt att skruva åt dem pga. kylflänsarna. En möjlighet hade varit ifall att jag fått tag på mutter med denna gänga. Vid en eventuell framtida modifikation kan det hända att enkla muttrar tillverkas med gängtapp, eller att jag helt sonika köper dem från Ebay.
Nåväl, lösningen som jag istället antog, var att ta gamla moderkortsdistanser som hade just denna gänga, borrade ur dem, samt gängade dem för M4. Därefter monterade jag mina kylare och drog åt med en mutter och en låsbricka.

En gammal SSD jag hade liggandes monterades, och Kubuntu installerades. Därefter igång med Folding at Home. Innan jag hann med att göra inställningar så tog maskinen dock ett jobb som bara använde tre av kärnorna.. Skapligt enerverande att vänta 12h på att den skulle börja arbeta på riktigt kan jag säga

Jag har ännu inte mätt upp vilken effekt burken drar från vägguttaget, men nätaggregatets fläkt är precis på gränsen att starta för det mesta. Den spinner upp lite, för att senare stanna igen. (Normalt för detta agg., det har tempsensor)

Tack för visat intresse så här långt, nu kommer uppskattning av pris, samt lite bilder.

Sammanställning av kostnader, inklusive frakt.
Moderkort: 1x Supermicro H8QGL-IF+ = 880 USD ~= 5800 SEK
Tull för moderkort: 1658 SEK
Processorer: 4x AMD Opteron 6128 = 202 USD ~= 1300 SEK
RAM: 18x KVR1333D3S8R9SK2 = 4039 SEK
Nätaggregat: 1x Fractal Design Newton R3, 1000W = 1770 SEK
Processorkylare: CoolerMaster Hyper 212 Evo = 1180 SEK
EPS12V-kablage: 80 SEK
Aluminiumprofiler: 1x Openbeam precut + 3x 1m = 168 EUR ~= 1500 SEK

Totalkostnad: ca. 16'300 kr

Slutligen, Tack Carl_XII för inspirationen!

Edit: Glömde ta med tullkostnaden för moderkortet

Besök galleriet här

Permalänk
Medlem

Man måste älska det moderkortet! Bra galleri, bra text. 5p.

Permalänk
Medlem
Skrivet av Bosendorfer:

Man måste älska det moderkortet! Bra galleri, bra text. 5p.

Tack så mycket!
-Uppdatering sker vid förändringar, måste få tag på passande skivor för sidorna..

Skrivet av 47:an:

Härligt bygge!

Ser riktig bra ut med Openbeam precut jag skall ta en titt på dessa för framtida projekt

Just att de tar vanliga M3-muttrar i spåren är enormt skönt. Inga specialgjorda ankare! (Det kommer med skruv och mutter om du vill använda det. Även lite vinklar och andra fästen som inte jag använde)
Du kan även placera skallen på en M3-skruv med sexkantsskalle i spåret och dra åt med en mutter.
Moderkortsdistansernas gängade del är för lång för att gå ned helt och hållet i spåret, men det går lika bra att ha mutter och skruv klämma "utåt", så att säga.

Jag köpte 5st extra enmetersbitar eftersom de längsta bitarna i kittet är på 300mm. Min låda är 400mm bred, och 600m djup (+ bredden av två profiler i varje riktning = 430x630mm). Det kan alltid vara bra att ha en extra för framtiden, speciellt då det inte påverkar frakten med en extra. Värre att ha separat fram senare

Permalänk
Medlem

Najs

Visa signatur

Ryzen 5950x | RTX 4090 | 64GB 3600Mhz| WD Black sn850 2TB
NAS: Unraid | 8GB 2133Mhz | ASRock C236 WSI | Intel G4600 | 32TB WD RED
YT:youtube.com/patan77xd IG:instagram.com/patan77 Webwww.patan77.com

Permalänk
Medlem

Grymma komponenter och fint bygge!

Men får man inte liknande PPD med två 7970 eller R9 290?

Visa signatur

folding@sweclockers
Gaming: AMD RYZEN 9800X3D @ 5.4GHz, AORUS X870 ELITE ICE, , 2x16GB 6000MHz DDR5 BEAST, 1x 2TB SN850X, ASUS TUF 4080 SUPER 16GB

Permalänk
Medlem
Skrivet av megalex:

Grymma komponenter och fint bygge!

Men får man inte liknande PPD med två 7970 eller R9 290?

Tackar.

Förvisso, men detta var intressantare att bygga
-Skall mäta upp strömförbrukningen på denna inom kort, kanske visar det då sig att denna är effektivare PPD/Watt.

Permalänk
Medlem

Har för mig att jag hamnar strax över 300k PPD när jag foldar fullt ut på processorn och grafikkorten.

Visa signatur

Riggen:ASRock X570M Pro4 - AMD Ryzen 7 5800X3D - Corsair 32GB DDR4 3200MHz - AMD RX 6950 XT - Fractal Design Meshify C Mini Dark TG
NAS: FreeNAS @ HP Proliant MicroServer Gen 8 - Xeon E3-1230 V2 - 16Gb Kingston ECC RAM - Intel 530 120Gb - IBM m1015/LSI 9220-8i - 4x WD Red 3Tb

Permalänk
Medlem

Hur stabilt är det med OpenBeam? 15mm profiler verkar intressant ur kostnadssynpunkt men hur stabil är en rigg som är baserad på dem?

Samt självklart, var fick du tag på OpenBeam?
mvh

Permalänk
Medlem

Härligt med dessa 4P riggar, spännande att se hur det går med PPD när allt är tweakat. Snyggt jobbat.

Carl_XII står nog för inspiration åt oss alla och hans fina folding farm har bidragit till en och annan google session på just 4P.
Hittade denna bygglog i höstas och hoppas den snart är i gång och foldar, hårdvaru porr!

http://forums.bit-tech.net/showthread.php?t=261829

Visa signatur

Fractal Torrent | Intel Core i9-11900KF | G.Skill Trident Z Neo 3600Mhz | Asus ROG Maximus Hero XIII | Asus RTX 3080 STRIX | Corsair AX1200i |Samsung 970 EVO M.2 250gb | Asus ROG Swift PG267Q

Permalänk
Medlem
Skrivet av skogsvilden:

Har för mig att jag hamnar strax över 300k PPD när jag foldar fullt ut på processorn och grafikkorten.

Vet du hur mycket din dator drar? Min i5 3570K med GTX680 drar ca 300W från väggen. Jag gissar (har ej mätt) att min HTPC med GTX780 drar någonstans där i närheten. så 500-600W för ca. 250k PPD.
500W->500PPD/W
600W->471PPD/W

Detta bygge ger ca. 250k PPD i sig självt, och drar ca 400W från väggen.
400W->575PPD/W
Så den är i alla fall effektivare sett till PPD per krona i elförbrukning. -Men kanske inte sett till inköpspris

Idag stängde jag ned HTPCn, börjar bli lite varmt i lägenheten med tre foldande maskiner nu i vårvärmen.

Skrivet av Macatonia:

Hur stabilt är det med OpenBeam? 15mm profiler verkar intressant ur kostnadssynpunkt men hur stabil är en rigg som är baserad på dem?

Samt självklart, var fick du tag på OpenBeam?
mvh

Ja du, helt stabil är den ju inte. Men det beror nog mer på mina plasthörn. Om du drar ihop den med metallvinklar så tror jag nog att det kan bli riktigt stabilt. Sedan är det ju en fråga av vad du tänkt dig för slags belastning.

Jag tror nog att det kommer stabiliseras en hel del dock när jag sätter i skivor runt om. Har dock inte ännu hittat något passande.

Jag köpte profilerna hos http://www.makerbeam.eu. De saluför även OpenBeam, i kit, samt lösa bitar.

Skrivet av zlang:

Härligt med dessa 4P riggar, spännande att se hur det går med PPD när allt är tweakat. Snyggt jobbat.

Carl_XII står nog för inspiration åt oss alla och hans fina folding farm har bidragit till en och annan google session på just 4P.
Hittade denna bygglog i höstas och hoppas den snart är i gång och foldar, hårdvaru porr!

http://forums.bit-tech.net/showthread.php?t=261829

Den senaste "tweaken" var att installera om Kubuntu med ext3-filsystem eftersom ext4 tydligen ställer till det när jobbet skall packas ihop och skickas. (finns en del trådar om det på diverse foldingforum) Jag fick en fördröjning på över en timma mellan 100% och att jobbet skickades. Det ser ut att fungera bättre nu, men får se säkert när ett antal jobb slutförts. -Så det är långsamma förändringar, det tar ett tag att se vad de ger för genomslag

Det var en fin bygglogg, skall följas!

Permalänk
Medlem

Vad är det där för trevlig operativsystem?

Visa signatur

Speldator: Cooler Master Centurion 5 | Core i5-2500K@4.2Ghz | 12GB DDR3@1600MHz | Kingston SSDNow 120gb SSD + 2x 250 HDD | GTX 770@1085/1753/7010MHz
LAN/Miner: HP Pavillion a6140.sc | Core i5-3330@3.6GHz | 4GB DDR3@1600MHz | 250gb HDD | RHD 5870@1098/1098/6008
Konsol: Xbox 360 | N64 |

Permalänk
Medlem
Skrivet av Mizcak:

Jag tror nog att det kommer stabiliseras en hel del dock när jag sätter i skivor runt om. Har dock inte ännu hittat något passande.

Prova att gå till en glasmästare. Har själv fixat makrolon (som jag själv föredrar att arbeta med) hos en lokal glasmästare där jag bor.
Förvisso kände jag dom men det ska nog inte vara några problem att få bitarna kapade i precis de måtten du önskar oavsett var du går.

Borra ut hål i makrolon är inga problem då den är lite mindre känslig än den klassiska plexin. Ta en extra "skräpbit" att öva på i värsta fall.
Själv har jag kört bågfil, snabbstålborr, träborr(!!!), försänkare och till och med hålsåg utan att misslyckas med ett enda hål!

Lycka till

Visa signatur

Cosmos S
Z370 Gaming Pro Carbon | Watercooled i7-8700K @ 3.70GHz
16GB DDR4 @ 3000MHz | GTX1070 OC 8GB
Win 10 Pro | M.2 NVMe 970 EVO 500GB | Ʃ≈1,75TB SSD | 2TB HDD
Logitech G15 | Razor Lachesis | AOC G2460P 24" 1080P @144Hz

Permalänk

Varför lägger du så mycket pengar på detta? Är det inte bättre att donera alla pengarna till tex canserforskningen istället så kan dom köra detta på superdatorer ist?

Permalänk
Medlem
Skrivet av noobunge:

Vad är det där för trevlig operativsystem?

Operativsystemet vad vid installation Kubuntu 13.04, senare uppdaterat till 14.04.

Skrivet av perwine:

Prova att gå till en glasmästare. Har själv fixat makrolon (som jag själv föredrar att arbeta med) hos en lokal glasmästare där jag bor.
Förvisso kände jag dom men det ska nog inte vara några problem att få bitarna kapade i precis de måtten du önskar oavsett var du går.

Borra ut hål i makrolon är inga problem då den är lite mindre känslig än den klassiska plexin. Ta en extra "skräpbit" att öva på i värsta fall.
Själv har jag kört bågfil, snabbstålborr, träborr(!!!), försänkare och till och med hålsåg utan att misslyckas med ett enda hål!

Lycka till

Tack för tips! Har dock inte blivit av ännu.

Skrivet av ejwbegysv:

Varför lägger du så mycket pengar på detta? Är det inte bättre att donera alla pengarna till tex canserforskningen istället så kan dom köra detta på superdatorer ist?

Varför lägger folk så mycket pengar på bilar, sport, hus,... Detta är en kul hobby, som dessutom gagnar andra.
Om jag donerar pengarna, hur mycket går då fram? Hur mycket fastnar i administration?

Sedan ligger Cancerforskningem mig varmt om hjärtat också, då cancern tagit både min far och min mor, samt flera släktingar.

Jag gör helt enkelt på detta vis för att stödja forskningen, sedan får du gärna donera pengar till Cancerforskningen du också!

Permalänk
Medlem

Intressant! Hade ingen aning om vad folding var innan jag läst allt detta.

Permalänk
Medlem

Va coolt! Hittade en länk på sidan där man kan köra folding direkt i chrome.

Permalänk
Medlem
Skrivet av dr904:

Va coolt! Hittade en länk på sidan där man kan köra folding direkt i chrome.

Ja, webbklienten kan vara ett bra komplement.
Glöm bara inte att skriva in Sweclockers lagnummer: 37451
För extra effektivitet, poängmässigt, bör du även skaffa en passkey.

För övrigt funderar jag på att sälja denna maskin, då jag är i behov av platsen den tar upp på skrivbordet..