Du missade att berätta vilken mjukvaran du använder för virtualisering , men det spelar inte så stor roll just nu, nu är det ju bara generella frågor och svar .
Av det du beskriver som användningsområde har du egentligen inget behov av varken ssd eller QSFP.
SSD som os-disk är iofs inte så dumt om man vill separera os och lagring.
Vill du ha lite fart i nätet räcker 10gbe långt, det är inte så lätt att fylla ens en sån lina hemma och priserna är ändå rätt ok. Allt över 10gbe får väl fortfarande klassas som "vansinnigt dyrt"
Men en sak jag inte förstår. Du säger att du har en 250gb disk, och en 4tb, är det allt? När folk säger nas brukar det vara, typ mer
Men för att ta det från början, du virtualiserar pfSense och du funderar på att skapa ett cluster för failover.
Helt ok, men för att det ska funka behöver du ha något utanför som kopplar inkommande nät till båda servrarna för att det ska funka. Helt görbart men klöddigt. Min högst personliga åsikt är: Strunta i att clustra pfSense, se i stället till att ha aktuell backup så att du snabbt kan sätta upp en ny instans ifall något händer. Betydligt enklare :).
FreeNAS. inte riktigt designat för att köras i cluster så jag skulle strunta i det också. FreeNAS vill ha direkt access till diskarna och även om det går att lösa även det (typ dualchannel expanders) så är det onödigt. En FreeNAS installation är så liten så samma som med pfSense, det är enklare att sätta upp på nytt bara man har inställningarna sparade, och eftersom du kör det som VM är det ju ännu enklare att ha även backup på hela VM:en.
Nu var jag skittråkig och dissade allt du ville göra
Vilket naturligtvis inte ska stoppa dig från att göra vad du vill .
Det jag vill ha sagt är att pratar man om kluster och failover för att skapa någon sorts redundans bör man titta på hela kedjan.
Jag kör själv två servrar i kluster med blandade virtuella maskiner. Jag kör inte någon failover alls utan använder egentligen clustret till att få all administration i ett och samma gränssnitt vilket jag tycker är praktiskt. Jag kan flytta VM:ar mellan hostarna om jag vill och om jag hade satt upp nätverksbryggorna med samma funktion/namn på bägge skulle det kunna fungera sömlöst att flytta mellan trots att hårdvaran är helt olika. Men jag har valt att inte ha det så för att jag anser mig inte ha något behov av redundans på den nivån. Däremot all disklagring ligger på zfs mirror, där vill jag ha redundans .