Tips: ZFS send | zfs receive över nätverket via mbuffer

Permalänk
Medlem

Tips: ZFS send | zfs receive över nätverket via mbuffer

Av en slump hittade jag ett jättebra tips nu när jag håller på bygga om min filserver. Jag skulle skicka en backup över lokala gigabitnätverket till en annan dator och letade efter alternativ till att köra via ssh (jag behöver ingen krypterad överföring på lokala hemnätverket bakom routerns brandvägg) och jag ville det skulle gå snabbt.

http://blogs.everycity.co.uk/alasdair/2010/07/using-mbuffer-t...

Jag testade detta och det gav verkligen bra hastighet! ZFS send och ZFS receive tuffade på med konstant hastighet av 112 MiB/s över gigabitnätverket (motsvarar ungefär 940 Mbit/s i snittfart, närapå maxat gigabit). Ena datorn körde FreeBSD och den andra "ZFS on Linux". Kopiering av hela lagringspoolen till en ny tom pool och 8,15 TiB överfördes på drygt 21 timmar utan problem. Jag hade räknat med att det skulle ta flera dagar...

Tänkte att någon kanske kunde ha nytta av detta tips. Det bör ju funka även när man kör dagliga backuper via snapshots vis zfs send | zfs receive. Då är det bara de data som förändrats som överförs så då går det väl fortare men kör man vill ju ändå ha så bra flyt som möjligt i överföringarna, oavsett om det går via ssh och internet eller via gigabitnätverk lokalt.

Permalänk
Medlem

Hur snabbt går det med rsync?

Visa signatur

CCNP

Permalänk
Medlem
Skrivet av maniak:

Hur snabbt går det med rsync?

rsync via mbuffer menar du? Jag har inte testat det. Går det? Ett annat alternativ skulle kunna vara att använda tar, skicka det genom mbuffer till en annan maskin som packar upp tarfilen via mbuffer. Läste på sidan av mbuffers skapare att han använde det för att skicka backuper till snabba bandstationer innan han började köra det över nätverk. tar är ju ett sätt att skapa en dataström av ett filsystem och mbuffer är ju bra på att skicka en dataström snabbt. Men rsync är väl mer pratigt där det skickar data fram och tillbaka har jag för mig och lämpar sig därför inte att skicka på det sättet.

Med tar, mbuffer och ssh kan man snabbt och säkert skicka en stor fil över nätverket:
http://unix.stackexchange.com/questions/48399/fast-way-to-cop...
(Se svaret "How? Or TL;DR"

Skippar man ssh borde det gå ännu snabbare (eller åtminstone bli mindre tungjobbat för processorn).