MergerFS och SnapRaid

Permalänk

MergerFS och SnapRaid

Är det någon som har erfarenhet att köra nåt eller bägge av ovanstående ? Ser intressant ut för hemmaservern....

Om inte, finns det bättre alternativ ?

Permalänk
Hedersmedlem
Skrivet av beetlezap:

Är det någon som har erfarenhet att köra nåt eller bägge av ovanstående ? Ser intressant ut för hemmaservern....

Om inte, finns det bättre alternativ ?

Jag använder båda programmen tillsammans på min lilla hemserver och är väldigt nöjd. Är det något specifikt du funderar över?

Har huvudsakligen följd dessa guider:
https://zackreed.me/setting-up-snapraid-on-ubuntu/
https://zackreed.me/mergerfs-another-good-option-to-pool-your...

Visa signatur

"The more you learn, the more you realize how little you know."

Permalänk
Medlem

Jag undrar hur du ser på Joe Fallons bloginlägg om mergerfs+snapraid: https://blog.joefallon.net/2017/07/warning-to-mergerfs-snapra...

Visa signatur

Unraid#1: Asus X99-M WS/SE, Xeon E5-2683 v3, 32GB

Permalänk
Medlem
Skrivet av reboot:

Jag undrar hur du ser på Joe Fallons bloginlägg om mergerfs+snapraid: https://blog.joefallon.net/2017/07/warning-to-mergerfs-snapra...

En alternativ lösning hade kanske varit att kopiera filen och sedan göra en snapraid sync innan man tog bort originalet?

Permalänk
Hedersmedlem
Skrivet av reboot:

Jag undrar hur du ser på Joe Fallons bloginlägg om mergerfs+snapraid: https://blog.joefallon.net/2017/07/warning-to-mergerfs-snapra...

Som Joe skrev så är hans exempel inget som orsakas av vare sig SnapRAID eller MergerFS i sig. MergerFS ser jag inte ens varför det är relevant över huvud taget då det inte har någonting med datasäkerhet att göra till att börja med.

Personligen så använder jag min server mest som en NAS och mediaserver där SnapRAID och MergerFS fyller funktionen att minimera huvudvärken att återskapa all data vid ett diskhaveri respektive minimera huvudvärken vid dagligt användande. Det betyder i princip att jag inte skulle gråta blod ifall all data försvann då det inte är särskilt kritisk data. Viktig data har jag, utöver på servern, minst en extra kopia av hur som helst.

Hans bloginlägg handlar mer om SnapRAID vs ZFS om du frågar mig, vilket i slutändan ändå handlar om att väga upp för- och nackdelarna för det man vill uppnå då båda lösningar har lite olika målgrupper. Att ha hängslen och livrem (ZFS) för filer som inte är kritiska tycker jag är overkill, medans jag kanske har större användning av att kunna lägga till redan fyllda diskar i olika storlekar (SnapRAID).

Och som jag sa tidigare, vill någon ha utförligare svar så får ni ställa mer specifika frågor.

Visa signatur

"The more you learn, the more you realize how little you know."

Permalänk
Medlem

Tar det lång tid att synka ändrade filer? Säg att man sparat ner några GB sedan föregående synkning så kanske den inte behöver scanna igenom allting?

Permalänk
Hedersmedlem
Skrivet av ronnylov:

Tar det lång tid att synka ändrade filer? Säg att man sparat ner några GB sedan föregående synkning så kanske den inte behöver scanna igenom allting?

Ju mindre data som har ändrats eller lagts till sedan föregående synkronisering desto fortare går det. Gjorde precis en manuell synkning av SnapRAID (då jag inte konfigurerat automatisk än) och det tog 6 minuter att synka 48 GB.

Visa signatur

"The more you learn, the more you realize how little you know."

Permalänk
Medlem
Skrivet av Casgar:

Ju mindre data som har ändrats eller lagts till sedan föregående synkronisering desto fortare går det. Gjorde precis en manuell synkning av SnapRAID (då jag inte konfigurerat automatisk än) och det tog 6 minuter att synka 48 GB.

Helt OK, det blir ju 8 GB/minut vilket är ungefär vad en vanlig hårddisk maxar i skrivhastighet. Då kan man ju lätt köra en manuell synkning direkt efter kopierat dit en fil som man vill säkra. Eller så kan man lägga automatiska synkningar ganska ofta om man vill.

Permalänk
Medlem

@Casgar: För att gräva upp en gammal tråd:

Kör du fortfarande denna kombo? Om så, är du fortfarande nöjd?

Uppfattade jag korrekt, går det att lägga till diskar som redan har data på sig (har googlat lite på detta, med dålig framgång)?

Vad kör du för strategi med scrub/sync/check osv.?

Jag har planer på att gå över till snapRAID, samt lägga på någon typ av skriv-cache på SSD, något du kollat på? Jag fick fram lite olika alternativ när jag sökte på saken.

Visa signatur

+++ Divide By Cucumber Error. Please Reinstall Universe And Reboot +++

"Real stupidity beats artificial intelligence every time." - Terry Pratchett, Hogfather

Permalänk
Hedersmedlem
Skrivet av scienta:

@Casgar: För att gräva upp en gammal tråd:

Kör du fortfarande denna kombo? Om så, är du fortfarande nöjd?

Uppfattade jag korrekt, går det att lägga till diskar som redan har data på sig (har googlat lite på detta, med dålig framgång)?

Vad kör du för strategi med scrub/sync/check osv.?

Jag har planer på att gå över till snapRAID, samt lägga på någon typ av skriv-cache på SSD, något du kollat på? Jag fick fram lite olika alternativ när jag sökte på saken.

Jag kört fortfarande denna kombo, men jag har inte pillat något alls sedan jag skrev senaste inlägget. D.v.s. jag har inte ställt in någon automatisk scrub/sync. I dagsläget så gör jag det bara när jag börjar känna att det var länge sedan, eller när jag har fört över många filer till servern. Jag hade tidigare dock en script som scrubbade och syncade automatiskt (typ ~2016), men eftersom intresset har glidit iväg till andra saker så har jag inte orkat bry mig efter att jag formaterade om senast. Servern har för övrigt tuffat på problemfritt de senaste 3+ åren.

Det är inga problem att lägga till fler hårddiskar oavsett om de har data eller ej. Kräver bara några minuter med att redigera några rader i /etc/fstab och /etc/snapraid om jag minns rätt.

Gällande SSD-cache så är det inget jag har läst på något djupare om eftersom jag inte såg något direkt behov av det för min egen del.

Visa signatur

"The more you learn, the more you realize how little you know."

Permalänk
Medlem
Skrivet av Casgar:

Jag kört fortfarande denna kombo, men jag har inte pillat något alls sedan jag skrev senaste inlägget. D.v.s. jag har inte ställt in någon automatisk scrub/sync. I dagsläget så gör jag det bara när jag börjar känna att det var länge sedan, eller när jag har fört över många filer till servern. Jag hade tidigare dock en script som scrubbade och syncade automatiskt (typ ~2016), men eftersom intresset har glidit iväg till andra saker så har jag inte orkat bry mig efter att jag formaterade om senast. Servern har för övrigt tuffat på problemfritt de senaste 3+ åren.

Det är inga problem att lägga till fler hårddiskar oavsett om de har data eller ej. Kräver bara några minuter med att redigera några rader i /etc/fstab och /etc/snapraid om jag minns rätt.

Gällande SSD-cache så är det inget jag har läst på något djupare om eftersom jag inte såg något direkt behov av det för min egen del.

Det låter som att det är pålitligt och bra så långt alltså. Jag sitter precis och ska testa kombon på ett par usb-stickor i en virtuell maskin. Ska bli väldigt intressant att se hur det fungerar.

Några tips/trix eller så som man absolut ska tänka på?

Visa signatur

+++ Divide By Cucumber Error. Please Reinstall Universe And Reboot +++

"Real stupidity beats artificial intelligence every time." - Terry Pratchett, Hogfather

Permalänk
Hedersmedlem
Skrivet av scienta:

Några tips/trix eller så som man absolut ska tänka på?

Inga direkta då allt fungerade första försöket för mig. Möjligen att du bör överväga vilken policy du ska använda på Mergerfs när den ska skriva data till poolen. Finns en hel del olika alternativ beroende på hur du vill att datan ska distribueras över alla diskar. https://github.com/trapexit/mergerfs#policy-descriptions

Visa signatur

"The more you learn, the more you realize how little you know."

Permalänk
Medlem
Skrivet av Casgar:

Inga direkta då allt fungerade första försöket för mig. Möjligen att du bör överväga vilken policy du ska använda på Mergerfs när den ska skriva data till poolen. Finns en hel del olika alternativ beroende på hur du vill att datan ska distribueras över alla diskar. https://github.com/trapexit/mergerfs#policy-descriptions

Jo, det har jag kollat på. Kör nog Most Free Space, för att hålla utrymmet lika på alla. Då tanken är att ingen påverkan ska behövas i övrigt så är det dessutom bra att undermappar osv. skapas automatiskt.

Har påbörjat flytt av de första filerna och förutom att jag satt en bra stund och undrade över långsamma hastigheter innan jag kom på att jag körde rsync med -z (compression) så fungerar det utmärkt. Valt XFS till underliggande filsystem och har rätt goda förhoppningar om denna uppsättning

Kör du med nån cache-inställning aktiverad?

Visa signatur

+++ Divide By Cucumber Error. Please Reinstall Universe And Reboot +++

"Real stupidity beats artificial intelligence every time." - Terry Pratchett, Hogfather

Permalänk
Hedersmedlem
Skrivet av scienta:

Kör du med nån cache-inställning aktiverad?

Inte vad jag kan komma ihåg. Grundinställningarna.

Visa signatur

"The more you learn, the more you realize how little you know."