Proxmox, SSD/HDD, TrueNAS, vad ska man köpa...

Mekaniska är ett bra val för lagring, precis som du tänkt.
Vad gäller val av hårddisk ska du köpa diskar med CMR, inte SMR. De är alla lite dyrare men kolla på Seagate Ironwolf eller WD Red Plus. Det är inga större skillnader vilken du väljer.

Hur du sätter upp dem beror lite på hur du tänkt använda dem. Ska du ha saker du kan leva utan ett tag (t.ex. tills du re-rippar dina blurayfilmer eller återställer en backup) så är det absolut mest kostnadseffektivt att köpa en stor hårddisk och köra utan eventuell raid eller dylikt. 4-6TB bruka ha bäst pris/TB.

Är det saker som är jobbigt att leva utan, t.ex. att det tar lång tid att re-rippa eller att det är saker du inte nödvändigtvis behöver backup på men familjen blir arg om de inte kommer åt sakerna så köp två och kör någon form av raid. T.ex. RAIDZ-1 så kan du tappa en disk och köra vidare medan du beställer en ny.

Det beror på.
1. TrueNAS utgår från att det kör på hårdvara. T.ex. kan du inte använda TrueNAS funktioner för att köra virtuella maskiner (och vill inte heller, eftersom du har proxmox) så mycket av det som gör TrueNAS bra försvinner om du ska köra det som en virtuell maskin.
2. Tidigare versioner än TrueNAS Scale hade dåligt stöd för virtuella maskiner, så du kan ignorera 99% av allas "Det går inte alls!" om det är äldre än ett år.
3. Man måste sätta upp diskarna rätt för att det ska fungera med ZFS, men det är inte svårt.
4. TrueNAS (eller snarare ZFS) är rätt tungdrivet om du inte behöver någon av de funktioner som ZFS ger.
Så TrueNAS är absolut ett rimligt alternativ men jag är inte säker på att det är det bästa.
Jag är lite oinsatt hur det ser ut idag men https://www.openmediavault.org/ har vart ett jättebra alternativ för de som vill ha 'bara' file sharing, så som du tänkt göra.

Jag känner inte till PhotoPrism men på en snabb googling ser det inte ut som det är istället för Freenas/OMV utan något du kan köra på filer du har i Freenas/OMV.

Du kan streama film från en potatis med nätverkskabel i ena änden, i princip.
Vill du transcoda (d.v.s spela upp ett format som klienten du spelar upp på inte stöder) så duger det nog också, men det blir kinkigt om du t.ex. vill transcoda 4k-material eller lite mer udda codecs.
De flesta TV-apparater har bra stöd för vanliga format och mobiler klarar i princip allt.

Med FreeNAS / ZFS så är det gränsfall. Jag tror tumregeln är 1GB RAM/TB rå data.
Men utan FreeNAS? Kör i vind. Home assistant klarar sig på enstaka gigabyte och filesharing i sig tar inte mycket heller.

Jag kör Proxmox i botten och TrueNAS core som VM.
Det fungerar hur bra som helst.

Diskar så IronWolf/IronWolf Pro eller Exos.

Jag vill minnas att de rekommenderar 8GB som minimum för TrueNAS, och sen 1GB RAM per 1TB lagringutrymme. Om ditt system redan använder 2GB så känns det som att mer minne är att rekommendera. Dessutom kanske du vill experimentera med fler VMs. Din maskin verkar maxa på 32GB. Kanske går att får tag på ett begagnat 32GB kit till en vettig slant? DDR3 bör ju inte vara så hett på marknaden nu?

När man kollar på diskar, så brukar det kunna vara så att dem med 256MB cache är SMR, som man vill undvika, och 64MB är CMR som är det man vill ha. Sen finns det vissa som har 128MB, vilket verkar kunna vara både SMR eller CMR. Detta har gällt för mindre diskar som jag kollat efter, typ 4TB, i alla fall. Men den observationen kommer inte med några garantier.

Ska du t.ex. köra en Plex server och streama video från den fungerar det av min erfarenhet bra med SMR, så om du har en dedikerad hårddisk du bara lagrar video på för att streama från finns det egentligen ingen anledning att betala extra för CMR och istället satsa på mest datadensitet för pengarna.

På tal om RAM så är 8 i lägsta laget men kom ihåg att många kör HAOS på Pi med halva det. Att slänga upp tio virtuella maskiner blir tight men 2-3 virtuella och på det 10-20 dockercontainrar är inga problem. Helt beroende på belastning och användning. Vill du tex köra nextcloud vill det gärna ha 4 GB minne. Ska du köra radarr/sonarr drar det några hundra MB styck.

DDR3 är så gammalt att det börjar bli dyrt igen men det är värt att hålla ögonen öppna för fynd.

Du har en poäng, men dagen han ångrar sig och vill köra RAID-1 är den ju då skräp. Dumsnålt att inte betala den extra hundralappen det handlar om.

Nu går jag rakt emot det du skrev angående att det måste vara så billigt som möjligt men får du inte in den så vill jag slå ett slag för min favoritsetup:
Kör din optiplex som server, lagra VMarna på den lokala SSDn och ha övrig lagring på något annat. Antingen att du köper/bygger någon liknande men med bättre hårddiskplats eller t.ex. en https://www.prisjakt.nu/produkt.php?p=5304622

Med en färdig NAS slipper man krångla och gör det väldigt enkelt att expandera, backupa och allmänt hantera lagringen som trots allt är skittråkig och "bara ska funka" så att man istället kan roa sig med applikationerna som faktiskt är kul.

Kör du en synology så kan du inte ha det som en nod i proxmox, det måste mig veterligen vara en till proxmox-burk då. Men jag menar att ha dem separat. Det är skönt att separera för dagen du råkar labba sönder proxmox så fungerar fortfarande din (simplare, svårare att råka ha sönder) NAS och dagen du vill uppgradera så behöver du bara uppgradera en funktion och inte köpa en stor grej som gör allt och så hoppas på att du dimensionerar den rätt.

En till proxmox-nod i kluster funkar väl också, men fördelen där är väl mest för high availability och möjligheten att kunna flytta över last mellan servrarna. D.v.s inget du har nytta av hemma annat än på kul. Hade jag två servrar skulle jag köra dem som fristående servrar. Som sagt, mindre krångel och mer chans att åtminstone en funkar efter man fetfingrat nånting.

Prylarna kan ju fortfarande prata med varandra. Jag kör OS på inbyggda SSDn på min server men lagrar snapshots från proxmox och annan bulk-data (som används av maskinerna i proxmox) på NFS-shares på min NAS.