Premiär! Fyndchans i SweClockers Månadens Drop

Stenulls ESXi bygge

Permalänk
Medlem

Stenulls ESXi bygge

Hårdvara inköpt och bygget så gott som färdigställt. Rensar lite i OP och lägger till viktiga saker som dykt upp under resans gång.

Hårdvara:
Mobo: Supermicro X10SL7-F
Minnen: Samsung Server DDR3L PC12800/1600MHz ECC CL11 LV 8GB (M391B1G73QH0-YK0) 3st stickor till en början med
Cpu: xeon E3-1240v3
Datastore: 3 * 128gb ssd
Freenas pool 5 * WD red 3tb
NIC: Intel quad gbit PCIe

Inköpslistan

Saker som dykt upp och kan vara värt att tänk på

  • Kingston minnen är ajabaja för detta moderkort!

  • Chipset Intel® C222 Express PCH är så kallad mjukvaru-RAID. ESXi stöder Ej detta default. Värt att tänka på om man tänkte ha en array för datastores. Om LSI 2308 är upptagen på annat håll är det att införskaffa ett RAID-kort. Forskning pågår...

  • PCIe NIC dök ej upp i ESXi. Åtgärdades genom att aktivera "Detect Non-Compliance Device" i BIOS.

  • Kunde ej skapa Datastore på två av SSD. Detta pga där fanns partitioner på dessa. Här finns en beskrivning på hur man tar bort partitioner via ESXi shell.

    Useful commands:

    # esxcfg-scsidevs -l

    this lists the disk devices, the device file will be /dev/disks/<NAME>

    output looks like:

    t10.ATA_____ST3320620AS_________________________________________6QF1PZXB

    Device Type: Direct-Access

    Size: 305245 MB

    Display Name: Local ATA Disk (t10.ATA_ST3320620AS_6QF1PZXB)

    Multipath Plugin: NMP

    Console Device: /vmfs/devices/disks/t10.ATA_____ST3320620AS_________________________________________6QF1PZXB

    Devfs Path: /vmfs/devices/disks/t10.ATA_____ST3320620AS_________________________________________6QF1PZXB

    Vendor: ATA Model: ST3320620AS Revis: 3.AA

    SCSI Level: 5 Is Pseudo: false Status: on

    Is RDM Capable: false Is Removable: false

    Is Local: true Is SSD: false

    Other Names:

    vml.010000000020202020202020202020202036514631505a5842535433333230

    VAAI Status: unknown

    # partedUtil get /dev/disks/t10.ATA_...

    this shows the partitions on the device

    output looks like:

    38913 255 63 625142448

    1 63 514079 130 128

    2 514080 625137344 253 0

    this disk has 2 partitions, numbers 1 and 2

    # partedUtil delete /dev/disks/t10.ATA_... 2

    deletes partition 2

    # partedUtil delete /dev/disks/t10.ATA_... 1

    deletes partition 1

    Dold text
Permalänk
Medlem

Du behöver ingen xeon med inbyggd gpu.

Visa signatur

Jag ser ner på folk som särskriver!

Permalänk
Medlem
Skrivet av ozric:

Du behöver ingen xeon med inbyggd gpu.

Tack för input. Jag försöker förstå varför och vilka konsekvenser det får men hittar inga svar i manualen. Har brädan inte stöd för inbyggd cpu? Och en fråga som dök upp i huvudet, skulle det gå att köra Vt-d till en vm på den inbyggda gpun om man väljer en E3-12x5 cpu?
Misstänker att IPMI har egen grafikdel och därför som gpu inte behövs?

Permalänk
Medlem

ser att där inte finns någon hdmi, DisplayPort eller liknande så blir ju svårt att få ut någon vettig signal från en integrerad gpu tror polletten börjar trilla ner där.
Då lutar det åt 1240 eller 1230 så länge det inte finns något bra argument för 1270 eller 1280.
Vad jag kan se så är det bara lite mer GHz som skiljer dem. Stämmer det?
Och vad jag förstått så har inte det så stor inverkan på en virtuell miljö så då kan jag lika bra köra på 1230?

Permalänk
Medlem
Skrivet av Stenull:

ser att där inte finns någon hdmi, DisplayPort eller liknande så blir ju svårt att få ut någon vettig signal från en integrerad gpu tror polletten börjar trilla ner där.
Då lutar det åt 1240 eller 1230 så länge det inte finns något bra argument för 1270 eller 1280.
Vad jag kan se så är det bara lite mer GHz som skiljer dem. Stämmer det?
Och vad jag förstått så har inte det så stor inverkan på en virtuell miljö så då kan jag lika bra köra på 1230?

Jag har ungefär samma komponenter i min lista för min framtida NAS. Det jag läst mig till är att RAM är viktigare än GHz så en 1230 räcker nog långt, speciellt eftersom du har valt 32Gb RAM.

Jag har Supermicro X1SLM-F istället för Supermicro X10SL7-F lite billigare. Men man förlorar 2st (interna) USB3.0 men vinner 2st SATA6 portar enligt prisjakts jämförelse.

Visa signatur

Desktop: Ryzen 9 3950x | RTX 2060 | 16Gb RAM | 512Gb + 256Gb SSD
NAS: HP Microserver Gen8 | 8GB Ram | 3x2Tb ZFS | FreeNAS
SRV: HP ML350p Gen8 | 64GB Ram | 2x E5-2630v2 | ESXI

Permalänk
Medlem
Skrivet av McZ:

Jag har ungefär samma komponenter i min lista för min framtida NAS. Det jag läst mig till är att RAM är viktigare än GHz så en 1230 räcker nog långt, speciellt eftersom du har valt 32Gb RAM.

Jag har Supermicro X1SLM-F istället för Supermicro X10SL7-F lite billigare. Men man förlorar 2st (interna) USB3.0 men vinner 2st SATA6 portar enligt prisjakts jämförelse.

Ja 300:- för den extra 0.1 GHz från 1230 till 1240 känns obefogat. Jag kan inte se någon annan skillnad på de två modellerna, men jag missar kanske något.
Min kännsla säger att 1230 räcker för min leksak, men det hade varit bra att förankra det i verkligeheten. Jag får nog heltenkelt köra på den och räcker det inte till så blir det att byta cpu

Ska du virtualizera NASen?
Jag var först inne på Supermicro X1SLM-F men X10SL7-F har en SAS controller som jag kan göra Vt-d till NASen med. Då slipper jag köpa ett IBM 1015 till detta. Får iof en pci platts mindre vilket som..
På X10SL7-F har man mycket riktigt bara 2 sata6 portar men 8 sas portar som går att köra sata6 diskar på = 10 sata6 diskar allt som allt
Och förstår jag det rätt (Någon som har bättre vetande om SAS måste kontra mig här) så kan man köra en omvänd fan-out kontakt på SAS portarna för att koppla till ett SAS bakplan och sedan vidare till fler bakplan med expanders och då kan man få in rätt många diskar... Men jag kan ha missförstått detta helt.

Permalänk
Medlem
Skrivet av Stenull:

ser att där inte finns någon hdmi, DisplayPort eller liknande så blir ju svårt att få ut någon vettig signal från en integrerad gpu tror polletten börjar trilla ner där.
Då lutar det åt 1240 eller 1230 så länge det inte finns något bra argument för 1270 eller 1280.
Vad jag kan se så är det bara lite mer GHz som skiljer dem. Stämmer det?
Och vad jag förstått så har inte det så stor inverkan på en virtuell miljö så då kan jag lika bra köra på 1230?

Jag köpte precis en liknande burk, X9SCL+-F-O som MB, en 1230 v2, samt 32GB samsung ECC. Supernöjd med allt, strömsnålt, svalt och prisvärt. Kör standardkylaren.

Permalänk
Medlem
Skrivet av Stenull:

Ja 300:- för den extra 0.1 GHz från 1230 till 1240 känns obefogat. Jag kan inte se någon annan skillnad på de två modellerna, men jag missar kanske något.
Min kännsla säger att 1230 räcker för min leksak, men det hade varit bra att förankra det i verkligeheten. Jag får nog heltenkelt köra på den och räcker det inte till så blir det att byta cpu

Ska du virtualizera NASen?
Jag var först inne på Supermicro X1SLM-F men X10SL7-F har en SAS controller som jag kan göra Vt-d till NASen med. Då slipper jag köpa ett IBM 1015 till detta. Får iof en pci platts mindre vilket som..
På X10SL7-F har man mycket riktigt bara 2 sata6 portar men 8 sas portar som går att köra sata6 diskar på = 10 sata6 diskar allt som allt
Och förstår jag det rätt (Någon som har bättre vetande om SAS måste kontra mig här) så kan man köra en omvänd fan-out kontakt på SAS portarna för att koppla till ett SAS bakplan och sedan vidare till fler bakplan med expanders och då kan man få in rätt många diskar... Men jag kan ha missförstått detta helt.

Spontant skulle jag säga att den eventuella förlusten att köra det du har tänkt virtualiserat istället för 'bare' direkt vägs upp utav hur otroligt mycket lättare det blir att administrera. Du har en server som står på dygnet runt och du kan starta om, installera om, lägga till eller ta bort bäst du vill utan att påverka systemet i stort.

Låt säga att du kör en filserver i grunden (FreeNAS är ett vanligt alternativ) som egentligen utgör NAS'en som du tänkt bygget till. Du kommer på att du vill ha en webbserver och här kommer det fina:
Istället för att installera det parallellt med filservern, eventuellt ställa till något med din befintliga fungerande lösning, så installerar du en ny VM parallellt med den som kör FreeNAS. Om allt funkar låter du bägge tuffa på och om något krånglar har du inte påverkat systemet alls.

Såhär har jag successivt tagit mig från en ovirtualiserad filserver till en virtualiserad med 10 VM's. Allt lirar klockrent med 32GB ram (FreeNAS/ZFS äter massor) och en i5-2500.

Visa signatur

Pad: Apple iPad 12,9" (2018).
Desktop: Ghost S1 Ash - i7-4770 - MSI 1070 GTX - Noctua NH-L12.
Server: HP Z420 Xenon E5-2690 - 64GB - ESXi 6.7
NAS: HP Microserver G8 (16TB) - ReadyNAS U2 (20TB) - ReadyNAS U4 (16TB)

Permalänk
Medlem

Kom ihåg att flasha om LSI kortet på X10SL7-F till IT firmware.
http://forums.servethehome.com/processors-motherboards/2115-s...

Funderar på exakt samma uppsättning av hårdvara som dig.

Visa signatur

Lill-server(2010): SFF NAS Zotac H55ITX-C-E, Lian Li PC-Q08B, Intel Core i3 540
Stor-server(2014): SuperMicro X10SL7-F, 20GB ECC RAM, 4x2TB WD Green, E3-1230v3, 2xIntel Dual Gigabit Nic

Permalänk
Medlem
Skrivet av Docker:

Kom ihåg att flasha om LSI kortet på X10SL7-F till IT firmware.
http://forums.servethehome.com/processors-motherboards/2115-s...

Funderar på exakt samma uppsättning av hårdvara som dig.

Visst tusan, det hade jag helt glömt, läste det för någon vecka sedan. Tack för heads up!

Permalänk
Medlem

Inser precis att min post va litte redundant mot tidigare kunnande

Visa signatur

Pad: Apple iPad 12,9" (2018).
Desktop: Ghost S1 Ash - i7-4770 - MSI 1070 GTX - Noctua NH-L12.
Server: HP Z420 Xenon E5-2690 - 64GB - ESXi 6.7
NAS: HP Microserver G8 (16TB) - ReadyNAS U2 (20TB) - ReadyNAS U4 (16TB)

Permalänk
Medlem
Skrivet av malek:

Inser precis att min post va litte redundant mot tidigare kunnande

Ingen fara

Permalänk
Medlem
Skrivet av traebit:

Jag köpte precis en liknande burk, X9SCL+-F-O som MB, en 1230 v2, samt 32GB samsung ECC. Supernöjd med allt, strömsnålt, svalt och prisvärt. Kör standardkylaren.

Vad kör du på din maskin? Och vilken modell har du på minnena?
Jag funderar på att ha en Noctua NH-D14 som kylning, den borde kunna köra på riktigt låga varv och ändå hålla cpun kall tänker jag..
Min router står idag i köket/vardagsrummet och för att slippa dra ny TP så tänkte jag sätta servern där så ljudnivån är rätt viktig för mig.

Permalänk
Medlem

Förresten kan någon vänlig själ ge förslag på AMD diton. Känner mig smått vilsen på AMD marknaden...
Krav dubbla Ethernet interface, IPMI med kvm på eget interface, svälja mer än 32gb ram.
Börjar känna att 32gb ram kan bli lite trångt iom freenas ska rulla på maskinen...

Tack på förhand
/t

Permalänk
Medlem

Intressant bygge, du får hålla oss uppdatera med hur allting lirar.
Är själv inne på att byta ut min server mot liknande system och börja köra Esxi

Visa signatur

R.I.P Robert 2004-01-29 (klasskompis) Läs: Artikel Nr 1. | Artikel Nr 2. | Artikel Nr 3.

Permalänk
Medlem
Skrivet av RoleX:

Intressant bygge, du får hålla oss uppdatera med hur allting lirar.
Är själv inne på att byta ut min server mot liknande system och börja köra Esxi

Will do! Ska bara få de sista bitarna på plats i planeringen sen blir det shopping och bygge av

Permalänk
Medlem

Hur har det gått för ditt bygge? Smått nyfiken.

Visa signatur

Stationär: Intel Core i7 3770k @ 4,3GHz [Phanteks PH-TC14PE] | Asus P8Z77-V LX | 16GB DDR3 | GeForce GTX760 2GB | Samsung 840 EVO 500GB SSD | Corsair HX650 | Scythe Kaze Master II Skärmar: Asus MG278Q | AG Neovo L-W27
Bärbar: Lenovo X240 | Intel Core i7 | 256GB SSD | 8GB | 12.5" FHD touch | 4G
Server: 2x HP DL380 G7 | Intel Xeon L5640 | håller på att handla...

Permalänk
Medlem
Skrivet av steele:

Hur har det gått för ditt bygge? Smått nyfiken.

Frugan tyckte vi skulle köpa hus så leksakskontot blev fruset tillsvidare...

Permalänk
Medlem
Skrivet av Stenull:

Frugan tyckte vi skulle köpa hus så leksakskontot blev fruset tillsvidare...

Hus? Fatta vilka burkar du skulle kunna bygga med den budgeten

Glöm inte att se till att det finns plats för rack...

Visa signatur

i7-8700k | ASUS ROG Strix Z370-F Gaming | 2x8+2x16GB Corsair Vengeance LPX 3200 | ASUS TUF RTX 3080 OC | Samsung 860 EVO 1TB | WD Black SN850 1TB | Intel 660p 2TB | Crucial MX500 4TB | Noctua NH-U14S | Fractal Design North | Seasonic Focus Plus Gold 650FX | ASUS Xonar Essence STX

Permalänk
Medlem

Ett år och ett hus senare blir det åka av lite tajtare budget så det blir bara inköp av det viktigaste

ett 10" vägghängt rack fick jag platts med

Kingstons minnen ska man visst akta sig för så jag kör på Samsung ist
https://forums.freenas.org/index.php?threads/ram-recommendati...

Permalänk
Medlem
Skrivet av Stenull:

Planerar för ett bygge av en virtualliseringsserver till hemmet och skulle vilja ha lite input från kunnare. Speciellt prestanda biten känner jag mig lite vilsen på och behöver ha ett bollplank känner jag.

Min plan är att i förstahand virtualisera router och freenas som servrar hemmet.
Sedan tänkte jag ha en labbmiljö med en domän med 2st ms 2008r2 som DC och 2-3 win7 som klienter.
Där ska även köras ett system på dessa maskiner som kallas 800xA från ABB. Prestanda för xA är rätt lågprioriterat, det ska mest finnas för utbildningssyfte, testa säkerhet, migreringar/uppgraderingar till nyare versioner, testa att joina en 2012r2 DC osv.
Det trillar säkert in lite andra maskiner med åren efterhand som jag vill labba med andra saker.

Tänkt hårdvara:
Mobo: Supermicro X10SL7-F
Minnen: Samsung Server DDR3L PC12800/1600MHz ECC CL11 LV 8GB (M391B1G73QH0-YK0) 3st stickor till en början med
Cpu: xeon E3-1240v3
NIC: Intel quad gbit PCIe

Prio ligger i router/NAS delen och ser gärna att de har varsin dedikerad kärna. Routern kommer äta en del kräm, den kommer att ta hand om en del VPN trafik med lite högre kryptering. FreeNas kommer inte att få så mycket stryk så den kanske inte behöver en dedikerad kärna?
Så klarar windows labbmiljön sig på två kärnor? Och finns det utrymme då för att expandera?

Tycker hårdvaran ser bra ut, men var inte dumsnål och köp 4 RAM stickor med en gång. När jag byggde min ESXi burk så tänkte jag först ta 16GB men det slutade ändå med att jag beställde 32GB på en gång. RAM går väldigt fort åt när man börjar installera sina VMs. Bara en rekommendation.

Sen funderar jag lite på hur disk konfiguration ser ut? Många verkar fokusera lite väl mycket på vilket CPU man skall ha men av erfarenhet så bör man satsa på snabba diskar i RAID eller liknande, själv kör jag 4x 2TB WD RED diskar i RAID5 som "primär" datastore och det räcker för mig, kör 6-10 VMs samtidigt. Vill man ha fart på sin ESXI host så krävs det en del IO, speciellt om man kör många VMs samtidigt.

Visa signatur

[Intel Core i5 2500k] [Asus P8Z68-V Pro] [2x ATI 6950 1gb] [Fractal Design XL] [Corsair HX 750W] [Corsair 16Gb 1600MHz] [OCZ SSD Vertex3 120GB]

Permalänk
Medlem

3st 8gb stickor blir det freenas kommer få 16gb direkt. Kompletterar med en extra sticka lite längre fram, budgeten tillät inte fyra direkt IOM kingston minnena blev bytts till samsung :/
Datastore får vara en 60gb ssd så länge men tänker mig speglade intel 520 240gb senare. Det mesta nu i början körs egentligen från ram.
Kommer förmodligen inte ha så jättestora maskiner på den. Och krisar det så får jag köra några maskiner från nasen.
Nasen blir freenas som får direktaccess till LSI kontrollern. Sitter 4*500gb i den idag men planen är att byta diskanrna till 3tb alt 4tb. Det blir i upgrade fasen efter julstöket med lite tur kanske diskarna är på rea nu på fredag

Permalänk
Medlem

Ett tips, iaf om det inte är produktion, lägg VMarnas default swap på SSD (syftar inte på host cache eller vad det kallas). Har inte bänkat men det KÄNNS som att det går snabbare. Eller ännu hellre, kör bara SSD

Visa signatur

i7-8700k | ASUS ROG Strix Z370-F Gaming | 2x8+2x16GB Corsair Vengeance LPX 3200 | ASUS TUF RTX 3080 OC | Samsung 860 EVO 1TB | WD Black SN850 1TB | Intel 660p 2TB | Crucial MX500 4TB | Noctua NH-U14S | Fractal Design North | Seasonic Focus Plus Gold 650FX | ASUS Xonar Essence STX

Permalänk
Medlem
Skrivet av Micke O:

Ett tips, iaf om det inte är produktion, lägg VMarnas default swap på SSD (syftar inte på host cache eller vad det kallas). Har inte bänkat men det KÄNNS som att det går snabbare. Eller ännu hellre, kör bara SSD

Med lite tur kan jag få loss 3st 120gb ssd från jobb blir att köra dom i raid5 som datastore isf

Permalänk
Medlem

Byggde mig något liknande nyss.

Valde dock att bygga på en I5 ur S serien.
32 Gb ram och ett asrock z87 extreme 4 moderkort (extra sata portar)

Nu kör jag förvisso hyper-V på min burk så jag har inte kollat HW stödet för vmware.

Men under Hyper-V så funkar det att använda det interna grafikkortet för accelering av en Virtuell maskin. kör 1080p över RDP från den

Visa signatur

Arbetsdator: HFX Mini. Ryzen 3600, GTX1650. Skärmar: Dell 2415

Permalänk
Medlem

Jag måste varit extra snäll i år fick igenom att köpa nya hårddiskar! Sitter på jobb med 5st RED 3tb och väntar på att få åka hem

Burken mer eller mindre byggd nu... skall "bara" installera allt.

Permalänk
Medlem

Startade åbäket igår vilken fröjd det är med IPMI!!

Permalänk
Medlem

Jaha då stötte man på första bakslaget.... verkar som att RAID byggda i intel controllern inte stöds i ESXi :/
Byggde en raid5 med tre diskar men ESXi ser de individuella diskarna...
lite sökande så verkar det som att den controllern är ett "mjukvaru raid tjosan"?? och detta funkar inte i esxi...
Någon som har bra koll som kan kommentera? är jag rökt? är det bara att bita ihop och ha tre separata datstores ist? i förlängningen spelar det ju egentligen inte så stor roll prestandamessigt, "bara" pariteten jag förlorar...

Permalänk
Medlem

ok, läst lite... känns som att jag kör med 3x datastores så länge. Sen när ekonomin hämtat sig efter bygget så blir det att köpa ett raid kort och flytta maskinerna dit i efterhand. Vill inte meka med "fakeraid" som kanske pajar i nästa upgradering av hypervisorn :/

Permalänk
Medlem

Följer detta med spänning
Funderar på att bygga med liknande komponenter själv
Dock tänkte jag köra med mjukvaruraid ZFS raid-z2