Jag skulle inte rekommendera att köra egen mailserver. Men vill du labba och testa för skojjs skull är det ju toppen. Jag rekommenderar ESXI och inte ett os som föregående talare. Om du kör esxi kan du installera ett lättvikts linux (debian) till varje tjänst.
Alltså ett os till mail, ett till owncloud och ett till labb. De klarar sig gott på en enkel dual core cpu och 300mb ram styck om det bara är du som ska labba lite. Givetvis kan du ge din "main" lite bättre prestanda och dina labs sämre.
Fördelen med detta är att det är väldigt enkelt att bara ta bort hela oset om du gjorde något som inte var bra, och du kan ändå har kvar din perfekt konfigurerade owncloud server.