ESXi-bygge för labbande, HTPC och lagring/backup

Permalänk
Medlem

ESXi-bygge för labbande, HTPC och lagring/backup

Hej!

Jag har funderat ett tag på att bygga en ESXi-server. Huvudanledningen till detta är väl mest labbande. Jag skulle vilja pröva köra lite olika operativsystem i inlärningssyfte samt lära mig mer hur man bygger upp nätverk med VLAN, DMZ och liknande. Sen om det är möjligt skulle jag vilja få in både funktionalitet för lagring/backup och HTPC. Helt enkelt för att slippa ha en massa olika maskiner som står och drar ström.

Jag kommer med största sannolikhet inte att köra något som kräver några enorma resurser, men jag kör hellre på lite för bra komponenter än tvärtom. Det jag kommit fram till hittills är:

Min tanke är att skippa lagrings-biten till en början eftersom jag inte känner att jag har det behovet just för tillfället. I så fall blir det att jag utökar med några hårddiskar (och kanske mer minne) vid ett senare tillfälle.

Så nu undrar jag:

  • Skulle komponenterna över huvud taget fungera med ESXi?

  • Jag har inte tagit med något grafikkort eftersom jag inte har en aning om vad som fungerar eller inte. Finns det något goto-kort som borde fungera med GPU passthrough?

  • Är moderkortet något att ha? Borde jag satsa på ett Supermicro-kort?

Det jag har som mål är att få nåt som är hyfsat strömsnålt och tyst. Skulle även vilja hålla mig under 10 000 kronor på den första vändan (utan lagrings-diskar då).

Några kommentarer till detta?

Tack på förhand för all hjälp och feedback!

Visa signatur

Intel Core 2 Duo E4500 | Corsair XMS2 4x1024 MB | Gigabyte GA-P35-DS3 | GeCube Radeon HD 3870 | Samsung SP2504C 250 GB | Antec Sonata III | Asus VW222U

Permalänk
Vila i frid

För labbande krävs det ju oftast inte speciellt mycket cpu. Kika lite @ https://www.dustinhome.se/group/hardvara/server-storage/servr... och se om du kan spendera pengarna lite annorlunda.

Jag har kört min 24/7 server på en i7-3770T och icke-ECC 16 GB minne i 2-1/2 år. Se bara till att installera ESXI på en hyffsad USB (inte SSD'n) och inte den allra billigaste stickan.

Permalänk
Medlem

Första svaret borde vara att JA, du kommer kunna köra ESXI på den.

Några andra saker - den CPU har inte GPU integrerad, så det kan bli så att du inte får någon bild.
Asrock får en del ris om osmarta lösningar (KVM etc) om man läser runt - jag kanske låter som en SM fanboy, men kolla på Supermicro X10SL7-F om du vill ha socket 1150. Du får då en mycket bättre raid/hba-controller (LSI2308) och slipper fläska på ett till kort om du sen vill köra lagring. (dock en mindra pcie-slot...)

Passthrough måste du se till att det funkar i CPU/Mobo, att sen hitta ett GPU som funkar...hmm. Jag har provat Nvidia, lirade inte bra. Skulle satsa på AMD - köp nåt hyperbilligt och prova så det funkar först.

Visa signatur

En server här, några servrar där.

Permalänk
Medlem
Skrivet av hasenfrasen:

För labbande krävs det ju oftast inte speciellt mycket cpu. Kika lite @ https://www.dustinhome.se/group/hardvara/server-storage/servr... och se om du kan spendera pengarna lite annorlunda.

Jag har kört min 24/7 server på en i7-3770T och icke-ECC 16 GB minne i 2-1/2 år. Se bara till att installera ESXI på en hyffsad USB (inte SSD'n) och inte den allra billigaste stickan.

Min tanke var att satsa på server-grejer ifall det blir så att jag vid ett senare tillfälle vill köra lite seriösare lagring med ZFS. Det kanske blir overkill, men det känns bättre med en "riktig" server. Men jag ska fundera lite, kanske blir så att jag snålar ändå.

Vad kör du för saker på din?

Skrivet av moron:

Första svaret borde vara att JA, du kommer kunna köra ESXI på den.

Några andra saker - den CPU har inte GPU integrerad, så det kan bli så att du inte får någon bild.
Asrock får en del ris om osmarta lösningar (KVM etc) om man läser runt - jag kanske låter som en SM fanboy, men kolla på Supermicro X10SL7-F om du vill ha socket 1150. Du får då en mycket bättre raid/hba-controller (LSI2308) och slipper fläska på ett till kort om du sen vill köra lagring. (dock en mindra pcie-slot...)

Passthrough måste du se till att det funkar i CPU/Mobo, att sen hitta ett GPU som funkar...hmm. Jag har provat Nvidia, lirade inte bra. Skulle satsa på AMD - köp nåt hyperbilligt och prova så det funkar först.

Aha, där ser man. Bild skulle jag gärna vilja ha! Tror du ett X10SLL-F skulle fungera? Skillnaden mot X10SL7-F verkar vara att den saknar LSI2308 som du nämner. Den verkar däremot innehålla integrerad grafik, vilket vore trevligt så jag slipper köra på en CPU som innehåller det.
Är det i värsta fall möjligt att konfigurera allt över IPMI? Eller kommer det till en början krävas någon grafiklösning?

Japp, passthrough ska funka i grejerna jag kollat på. Och precis, jag har hört att det ska finnas bättre stöd för AMD. Det jag tänkte på var nåt litet billigt kort som Radeon R5 230.
Dock vore det trevligt om man kunde hitta ett kort som man vet någon har lyckats få till passthrough med. Har prövat googla lite, men tycker mest jag hittar äldre inlägg (typ från 2013). Men får söka vidare.

Tack för hjälpen hittills!

Visa signatur

Intel Core 2 Duo E4500 | Corsair XMS2 4x1024 MB | Gigabyte GA-P35-DS3 | GeCube Radeon HD 3870 | Samsung SP2504C 250 GB | Antec Sonata III | Asus VW222U

Permalänk
Vila i frid
Skrivet av outcast:

Vad kör du för saker på din?

På den lilla mikroservern med i7-3770T 16GB SSD240GB 24/7 körs 3 st pfSense, ubuntu 12.4 pxe-server, debian nginx, debian tor exit, w7 test klient, pxe-test klient, dd-wrt och openwrt (när jag labbar med pfsenserna). 6 st gigabit NIC'ar, 2 inbyggda och ett Intel PCI Quad-NIC. 5 publika IP från bahnhof via zitius.

vcenter servern körs på min ws mha vmware workstation. Två esxi Fujitsu TX100S3P med megaraid 4x3TB raid5 (+ 128 och 240 GB SSD) med alla windows operativ inkl servers från w2k och uppåt och en Lenovo TS140 snik med hyperv.

Min N54L med Synology DSM delar ut 4x2TB raid5 + 4x500GB raid5 som NFS och använs av vcenter och min ws mest som backup. WOL på alla burkar. Fast två av dem står mest avslagna.

Uppdaterade vcenter och två av esxi servarna från 5.5 till 6 men vmtools lirade inte 100 med w2k12r2 terminalservers så jag backade tillbaks. Snacka om dödande av tid!

Permalänk
Medlem

Det blev så att jag köpte grejerna jag pratade om (med ett Supermicro X10SLL-F) så tänkte ge en liten uppdatering.

För att svara på min egen fråga angående IPMI så är svaret ja, allt går att konfigurera över nätet. Jag kopplade bara in den dedikerade IPMI-porten till min router och lät den få en adress genom DHCP. Sen konfigurerade jag BIOS och installerade ESXi i webbgränssnittet. Helt sjukt smidigt.

ESXi-installationen gick bra, alla komponenter hittades out of the box. Det första jag gjorde var att installera en Windows 8-maskin för att testa att GPU passthrough fungerade, vilket det också gjorde. Jag fick däremot bluescreens vid uppgradering till 8.1 vilket var relaterat till ljuddrivrutinerna till AMD-kortet. Efter en omstart av hosten fungerade det dock bra igen.
Så HTPC-biten fungerar hittills klockrent. Jag fjärrstyr maskinen med en kombination av RDP, VNC och Remote Mouse. Ska dock införskaffa trådlöst tangentbord och mus för att slippa detta i fortsättningen.

Sen har jag konfigurerat upp nätet så att allt ligger bakom en virtuell brandvägg (även mina fysiska enheter). Har delat upp det i ett LAN och ett management-nät med hjälp av VLAN. Nästa steg blir att införskaffa en VLAN-kapabel switch så att jag kan dela in mina fysiska enheter i olika VLAN.

Jag är väldigt nöjd med hur allt har fungerat hittills i alla fall. Administrationen av ESXi tycker jag är riktigt enkel (kör med vSphere Client). Så jag rekommenderar denna lösning ifall någon annan är ute efter en kombinerad HTPC/virtualiserings-maskin.

Skrivet av hasenfrasen:

På den lilla mikroservern med i7-3770T 16GB SSD240GB 24/7 körs 3 st pfSense, ubuntu 12.4 pxe-server, debian nginx, debian tor exit, w7 test klient, pxe-test klient, dd-wrt och openwrt (när jag labbar med pfsenserna). 6 st gigabit NIC'ar, 2 inbyggda och ett Intel PCI Quad-NIC. 5 publika IP från bahnhof via zitius.

vcenter servern körs på min ws mha vmware workstation. Två esxi Fujitsu TX100S3P med megaraid 4x3TB raid5 (+ 128 och 240 GB SSD) med alla windows operativ inkl servers från w2k och uppåt och en Lenovo TS140 snik med hyperv.

Min N54L med Synology DSM delar ut 4x2TB raid5 + 4x500GB raid5 som NFS och använs av vcenter och min ws mest som backup. WOL på alla burkar. Fast två av dem står mest avslagna.

Uppdaterade vcenter och två av esxi servarna från 5.5 till 6 men vmtools lirade inte 100 med w2k12r2 terminalservers så jag backade tillbaks. Snacka om dödande av tid!

Herregud vad mycket grejer man kan trycka in. Drygt att det inte gick att uppgradera ordentligt heller! Är det lätt att backa tillbaka till en äldre version med ESXi?

Visa signatur

Intel Core 2 Duo E4500 | Corsair XMS2 4x1024 MB | Gigabyte GA-P35-DS3 | GeCube Radeon HD 3870 | Samsung SP2504C 250 GB | Antec Sonata III | Asus VW222U

Permalänk
Medlem
Skrivet av outcast:

Det blev så att jag köpte grejerna jag pratade om (med ett Supermicro X10SLL-F) så tänkte ge en liten uppdatering.

För att svara på min egen fråga angående IPMI så är svaret ja, allt går att konfigurera över nätet. Jag kopplade bara in den dedikerade IPMI-porten till min router och lät den få en adress genom DHCP. Sen konfigurerade jag BIOS och installerade ESXi i webbgränssnittet. Helt sjukt smidigt.

ESXi-installationen gick bra, alla komponenter hittades out of the box. Det första jag gjorde var att installera en Windows 8-maskin för att testa att GPU passthrough fungerade, vilket det också gjorde. Jag fick däremot bluescreens vid uppgradering till 8.1 vilket var relaterat till ljuddrivrutinerna till AMD-kortet. Efter en omstart av hosten fungerade det dock bra igen.
Så HTPC-biten fungerar hittills klockrent. Jag fjärrstyr maskinen med en kombination av RDP, VNC och Remote Mouse. Ska dock införskaffa trådlöst tangentbord och mus för att slippa detta i fortsättningen.

Sen har jag konfigurerat upp nätet så att allt ligger bakom en virtuell brandvägg (även mina fysiska enheter). Har delat upp det i ett LAN och ett management-nät med hjälp av VLAN. Nästa steg blir att införskaffa en VLAN-kapabel switch så att jag kan dela in mina fysiska enheter i olika VLAN.

Jag är väldigt nöjd med hur allt har fungerat hittills i alla fall. Administrationen av ESXi tycker jag är riktigt enkel (kör med vSphere Client). Så jag rekommenderar denna lösning ifall någon annan är ute efter en kombinerad HTPC/virtualiserings-maskin.

Herregud vad mycket grejer man kan trycka in. Drygt att det inte gick att uppgradera ordentligt heller! Är det lätt att backa tillbaka till en äldre version med ESXi?

Roligt att läsa att allt gick så smidigt!

Har precis köpt en N54L och ska sätta mig in i ESXi, så suger i mig som en svamp.

Visa signatur

Pc 1--> [AsRock DualSata2][AMD4600+X2][7800GT] [Intel SSD X-25 80GB G2][1TB F3][750GB IDE][4GB XMSCorsiar]Pc 2--> [Asus Crosshair] [AMD 4800+X2] [2st 8800GT i SLI] [RAID 0 2x250GB] [6GB XMSCorsair] [Corsair HX750]Pc 3-->[HP Microserver 12TB]Pc 4--> AsRock P67 Extreme 4,i7 2600K @ 4.0 GHz,830 256GB,16GB 1600MHz, R9 290X Foto [Nikon D7000][70-300/35 1,8/18-55 [Skärmar=24",24",24" Eyefinity]

Permalänk
Vila i frid
Skrivet av outcast:

Är det lätt att backa tillbaka till en äldre version med ESXi?

Idag är det enkelt att backa tillbaks, men då var det inte - då jag inte tagit backup på maskinernas setup utan fick lägga till VM för VM manuellt. Numera tag jag backup med nedanstående script som använder sig av esx-health.pl (finns på nätet).

rem 10.10.10.22 vcentersrv v5.5 c: cd \ "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\esxcli.exe" -s 10.10.10.23 -u root -p FiktivitPassword system version get if errorlevel 1 goto no23 copy /y c:\esxi23.backup.tgz \\N54L\smb500GB\vmware-bck\esxi23.backup.tgz perl "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\vicfg-cfgbackup.pl" --server 10.10.10.23 --username root --password FiktivitPassword --save c:\esxi23.backup.tgz perl esx-health.pl --server 10.10.10.23 --username root --password FiktivitPassword --mailhost mail2.bahnhof.se --maildomain andersbrink.se --mailfrom anders@brink.guru --mailto anders@brink.guru --concise --memwarnpc 90 goto go24 :no23 PowerShell -Command "& {Send-MailMessage -from 'anders@brink.guru' -to 'anders@brink.guru' -subject 'ESXI 10.10.10.23 is down' -body 'ESXI 10.10.10.23 is down' -smtpServer mail2.bahnhof.se }" goto go24 :go24 rem "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\esxcli.exe" -s 10.10.10.24 -u root -p FiktivitPassword system version get if errorlevel 1 goto no24 copy /y c:\esxi24.backup.tgz \\N54L\smb500GB\vmware-bck\esxi24.backup.tgz perl "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\vicfg-cfgbackup.pl" --server 10.10.10.24 --username root --password FiktivitPassword --save c:\esxi24.backup.tgz perl esx-health.pl --server 10.10.10.24 --username root --password FiktivitPassword --mailhost mail2.bahnhof.se --maildomain andersbrink.se --mailfrom anders@brink.guru --mailto anders@brink.guru --concise --memwarnpc 90 goto go25 :no24 PowerShell -Command "& {Send-MailMessage -from 'anders@brink.guru' -to 'anders@brink.guru' -subject 'ESXI 10.10.10.24 is down' -body 'ESXI 10.10.10.24 is down' -smtpServer mail2.bahnhof.se }" goto end :end

Dold text
Permalänk
Medlem

Smutt. Skulle du kunna prova om Steam Streaming funkar från ESXI-hosten med AMD-kortet?

Visa signatur

En server här, några servrar där.

Permalänk
Medlem
Skrivet av skog1s:

Roligt att läsa att allt gick så smidigt!

Har precis köpt en N54L och ska sätta mig in i ESXi, så suger i mig som en svamp.

Ja, verkligen. Man förväntar sig som att åtminstone någonting ska strula.

Skrivet av hasenfrasen:

Idag är det enkelt att backa tillbaks, men då var det inte - då jag inte tagit backup på maskinernas setup utan fick lägga till VM för VM manuellt. Numera tag jag backup med nedanstående script som använder sig av esx-health.pl (finns på nätet).

rem 10.10.10.22 vcentersrv v5.5 c: cd \ "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\esxcli.exe" -s 10.10.10.23 -u root -p FiktivitPassword system version get if errorlevel 1 goto no23 copy /y c:\esxi23.backup.tgz \\N54L\smb500GB\vmware-bck\esxi23.backup.tgz perl "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\vicfg-cfgbackup.pl" --server 10.10.10.23 --username root --password FiktivitPassword --save c:\esxi23.backup.tgz perl esx-health.pl --server 10.10.10.23 --username root --password FiktivitPassword --mailhost mail2.bahnhof.se --maildomain andersbrink.se --mailfrom anders@brink.guru --mailto anders@brink.guru --concise --memwarnpc 90 goto go24 :no23 PowerShell -Command "& {Send-MailMessage -from 'anders@brink.guru' -to 'anders@brink.guru' -subject 'ESXI 10.10.10.23 is down' -body 'ESXI 10.10.10.23 is down' -smtpServer mail2.bahnhof.se }" goto go24 :go24 rem "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\esxcli.exe" -s 10.10.10.24 -u root -p FiktivitPassword system version get if errorlevel 1 goto no24 copy /y c:\esxi24.backup.tgz \\N54L\smb500GB\vmware-bck\esxi24.backup.tgz perl "C:\Program Files (x86)\VMware\VMware vSphere CLI\bin\vicfg-cfgbackup.pl" --server 10.10.10.24 --username root --password FiktivitPassword --save c:\esxi24.backup.tgz perl esx-health.pl --server 10.10.10.24 --username root --password FiktivitPassword --mailhost mail2.bahnhof.se --maildomain andersbrink.se --mailfrom anders@brink.guru --mailto anders@brink.guru --concise --memwarnpc 90 goto go25 :no24 PowerShell -Command "& {Send-MailMessage -from 'anders@brink.guru' -to 'anders@brink.guru' -subject 'ESXI 10.10.10.24 is down' -body 'ESXI 10.10.10.24 is down' -smtpServer mail2.bahnhof.se }" goto end :end

Dold text

Tack för scriptet! Ska kika på det.

Skrivet av moron:

Smutt. Skulle du kunna prova om Steam Streaming funkar från ESXI-hosten med AMD-kortet?

Det fungerade helt ok. Körde lite Spelunky på TV:n igår.

Jag körde PCI passthrough på en USB host controller för att kunna plugga in min Xbox 360-kontroll. Då dök även en "ESXi"-enhet upp i Windows. Kan jag ha lyckats få med mig själva ESXi-disken in i Windows-gästen? (Jag kör ESXi på en USB-sticka.) Vore väldigt konstigt om det är möjligt känns det som.

Visa signatur

Intel Core 2 Duo E4500 | Corsair XMS2 4x1024 MB | Gigabyte GA-P35-DS3 | GeCube Radeon HD 3870 | Samsung SP2504C 250 GB | Antec Sonata III | Asus VW222U

Permalänk
Medlem

Jag verkar ha råkat ut för det här: Unable to disable USB controller for passthrough after it is enabled (2068645). Vilket innebär att inga inställningar sparas av ESXi.

Jag löste det genom att helt enkelt flytta USB-stickan som ESXi ligger på till en annan USB controller, boota, ta bort controllern från passthrough och flytta tillbaka stickan igen. Trodde jag hade tappat en VM som jag lagt ner några timmar på att konfigurera. Men disken låg kvar, så det var bara att skapa en ny VM och återanvända den.

Så mitt tips är att vara försiktig med vilken USB controller man kör passthrough på! Jag borde nog ha läst på lite innan jag prövade det där.

Visa signatur

Intel Core 2 Duo E4500 | Corsair XMS2 4x1024 MB | Gigabyte GA-P35-DS3 | GeCube Radeon HD 3870 | Samsung SP2504C 250 GB | Antec Sonata III | Asus VW222U