RAID5 (mdadm) + diskkrasch

Hej!

Så här ligger det till:

Jag kör Ubuntu 8.04 och mdadm på min server. Jag kör en mjukvaru-RAID5 i den med 5 stycken hårdddiskar. Ovanpå det kör jag kryptering med dm-crypt och sedan ext3 som filsystem. Jag kör 4 av diskarna på moderkortets SATA-kontroller och en av diskarna på ett separat kontrollerkort.

Jag hade tidigare 4 st Seagate 1TB-diskar i den. Jag köpte sedan en Samsung 1 TB-disk och utökade min RAID5 till att även innehålla denna disk. Så långt allt väl. Allt fungerade bra i månader, tills den nya Samsung-disken efter en reboot dök upp som spare. Det gick att assembla arrayen med de 4 övriga diskarna utan problem, som degraded, eller vad det kallas. Kikade runt lite grann men kom fram till att jag nog var tvungen att lägga till den nya disken igen som active och köra en reshape.

Det tuggade på i en dag tills jag hux flux såg att en av de 4 äldre Seagate-diskarna verkade helt död. Den hittades inte igen över huvud taget efter en reboot. Detta skedde innan reshapen var färdig.

Senare identifierades disken av datorn igen, och har gjort det sedan dess. Den klarar en SMART short self test OK. Kör jag ett extended self test får jag dock read error på disken, enligt följande:

Num  Test_Description    Status                  Remaining  LifeTime(hours)  LBA_of_first_error
# 1  Extended offline    Completed: read failure       90%      6066         2920998

Jag provade testa disken i SeaTools i servern med samma resultat, read error vid extended self test. Jag har även provat disken i min WS med SeaTools for Windows där ett extended self test också misslyckas.

Så det här är väl mina slutsatser:

1. Disken har gått sönder, det går inte att läsa vissa block från disken.
2. Det skedde under en reshape av min RAID5, vilket gör att jag inte kan återskapa arrayen. :'(

Då det är flera lager involverat med först mjukvaruraid, sedan kryptering och sedan filsystem så är jag väl rädd att all data på min RAID5 är förlorad. Då jag hade backup på det viktigaste är det ingen katastrof, men jag vill såklart göra vad jag kan för att försöka återskapa det som fanns på arrayen.

Då jag inte har jättebra koll på mdadm och RAID5, samt såna här hårddiskbekymmer i stort så vill jag gärna ha lite input

Då diskkraschen skedde under en reshape så vet jag inte riktigt vad man kan prova för nåt. Det jag har tänkt göra är väl att försöka läsa ut all data som går från disken och skriva det till en ny, fungerande disk.
För att sedan lägga till denna disk till arrayen och se om det går att fortsätta på reshapen med mdadm. Jag vet inte om detta är möjligt över huvud taget, någon som har koll på det? Kommer det att gå att återskapa arrayen även om vissa block från den här disken inte finns med?

Jag har inte full koll på hur en reshape går till, finns det någon chans att jag kan återskapa arrayen med bara de diskar som fortfarande fungerar, som degraded?

Disken ska väl mappa om bad blocks automatiskt, så om den inte gjort det nu så har den väl slut på lediga blocks?

Jag tar tacksamt emot alla förslag. Skiter det sig så får jag väl skicka in disken på garantin och bygga om min RAID5 och inse att jag förlorat all data på den.

Tack för alla bra svar!

Jag kikade på första länken, där självaste Neil Brown som utvecklat mdadm svarat. Det verkar ju inte vara exakt samma problem som jag har, men var ju ändå lite nyttig info. Arrayen var ju okej med alla 5 diskar innan jag började reshapea. Jag hade inte filsystemet monterat något efter att den femte disken blev spare och jag började reshapea/resynca, vad det då kallas. Så förhoppningsvis kanske den inte ändrat så mkt på diskarna utan bara kontrollerat att allt stämde, och jag därmed kan tvinga igång den i degraded.

Jag ska börja med att försöka klona disken som är trasig och se hur det går. Om jag inte lyckas med det så får jag nog prova att försöka assembla den som degraded med de 4 diskar som är kvar.

Det gick tyvärr inte att läsa ut allt från disken med dd_rescue Disken dör helt när man försöker. Så det blir plan B, att försöka få igång arrayen med de diskar som är kvar enligt tipsen från linuxprofessor och Fyxim. Återkommer med hur det gick.

Det är möjligt att de andra diskarna som togs i drift samtidigt som denna är på väg att gå också, om det är pga slitage. Jag har dock 5 års garanti på de, så ekonomiskt gör det mig inget. Jag har dock kört lite tester på dom och dom verkar OK. 50% av de diskar som hör till arrayen nu har dock satts in vid olika tidpunkter och är av olika modell.

Sen om RAID5 är en bra lösning eller inte beror väl på tillämpning. I mitt fal är det mest passiv datalagring där jag inte skriver särskilt ofta till arrayen. När jag väl skriver är det mest långa sekventiella skrivningar av större filer.

I mitt fall blir kostnaden per byte väldigt viktig, samtidigt som prestandan inte är särskilt viktig. Samtidigt vill jag ha någon form av redundans då det är stora mängder data. Jag behöver inte ha jättehög säkerhet då datan inte är jätteviktig och jag har backup på andra ställen på allt viktigt. Så för min tillämpning tycker jag att RAID5 är en bra lösning. RAID1, RAID10/RAID01 eller RAID6 tycker jag hade blivit för dyrt och gett onödigt mycket redundans i mitt fall, samtidigt som eventuella prestandavinster vore ointressanta.

EDIT: Men tack för ett intressant perspektiv på det hela, även om det väl är mer riktat till industriella tillämpningar.