md0: mismatch sector

[minimike]

Hi

Frage zu Raid5 (mdraid)

Vorrangeganen war der Umstand das nach einem Reboot das System nicht wieder hochkam. Zwei von vier Partitionen waren degraded. Ich habe den Raid von einem Rettungssystem dann mittels mdadm -A -f /dev/md0 gestartet. System kam dann wieder normal hoch. Mittlerweile habe ich das Überprüft.

Code: Alles auswählen

[69782.744475] md0: mismatch sector in range 3671024-3671032
[69930.562285] md0: mismatch sector in range 9185328-9185336
[70026.781038] md0: mismatch sector in range 12815624-12815632
[70027.943468] md0: mismatch sector in range 12856584-12856592
[70431.396399] md: md0: data-check done.

Das ist ein ca 45 GB großes ARRAY als Raid5 mit mdadm für /

Was wäre eurer Ansicht nach Erforderlich?
Backups machen und den Server offline nehmen und mit z.B, GRML den Resync anstoßen?
Bin da unschlüssig

[cosinus]

Sind das Platten oder SSDs im Verbund? Was sagen die SMART-Werte?

[minimike]

alle Partitionen 4 x 15 GB als Raid 5 für OS und 4 x 5 TB aLS RAID 5 für Daten sind im Verbund

bezüglich SMART

einen IMHO kleinen Fehler habe ich bei der letzten Platte gefunden
pastebin/?mode=view&s=41976

[MSfree]

pastebin/?mode=view&s=41976

Ich sehe da 2.5-Zoll Platte(n) mit 5TB Kapazität. Diese Platten sind grundsätzlich SMR-Platten (Shingled Magnetic Recordung) und somit nur bedingt bis gar nicht für RAIDs geeignet.

SMR kann zu Timeouts führen, wenn die Platte gerade beschäftigt ist, die überlappenden Spuren neu zu sortieren und umzukopieren.

[cosinus]

alle Partitionen 4 x 15 GB als Raid 5 für OS und 4 x 5 TB aLS RAID 5 für Daten sind im Verbund

D.h. System und Daten liegen auf demselben RAID-Verbund, der aus vier dieser 5-TB-Platten besteht?

bezüglich SMART
einen IMHO kleinen Fehler habe ich bei der letzten Platte gefunden
pastebin/?mode=view&s=41976

Welchen Fehler meinst du da?
Ich vermisste die Angaben zu POWER_ON_HOURS...mach mal bitte ein

Code: Alles auswählen

smartctl -x /dev/sdX

[minimike]

Ich vermisste die Angaben zu POWER_ON_HOURS...mach mal bitte ein

Code: Alles auswählen

smartctl -x /dev/sdX

gerne. Hier bitte pastebin/?mode=view&s=41977

[cosinus]

Ja, das wollte ich sehen

Code: Alles auswählen

  5 Reallocated_Sector_Ct   PO--CK   100   100   010    -    0
  9 Power_On_Hours          -O--CK   098   098   000    -    1958 (73 85 0)
187 Reported_Uncorrect      -O--CK   099   099   000    -    1
190 Airflow_Temperature_Cel -O---K   051   034   040    Past 49 (Min/Max 43/52 #48)
194 Temperature_Celsius     -O---K   049   066   000    -    49 (0 26 0 0 0)
197 Current_Pending_Sector  -O--C-   100   100   000    -    0
198 Offline_Uncorrectable   ----C-   100   100   000    -    0

Die Werte sehen recht gut aus. Dies Platte lief grade knapp 2000 Stunden und es gab bisher nur einen "reported uncorrect" Sektor, aber keine defekten/reallocated Sektoren.
49 °C finde ich aber ganz schön viel. Werden die immer so heiß oder ist deine Kühlung/Luftzirkulation so schlecht? Was genau ist das für ein System? Und wie kommst du gerade auf 2.5 Zoll SMR-Platten für ein RAID?

[minimike]

2000 Stunden weniger... Ich habe die neu im Juli gekauft. Und die waren alle eingeschweisst. Das System ist ein Raspberry Pi 4 in einem Argon EON 40 Gehäuse und den 4 Platten. 3,5 Zoll HDD's waren mir in mehrerer Hinsicht zu teuer. Der Lüfter läuft schon volle Leistung. Und ja, ich habe noch vor den durch einen Stärkeren zu Ersetzen. Ist schon auf meiner Liste. Und auch weit oben
Das ist mein privates Projekt. Mit dem Ziel so wenig Strom wie möglich zu Verbrauchen aber nicht mehr als 650 € für Hardware auszugeben. Und klein soll es auch noch sein.

Adieu 2000 € Stromnachzahlung....
Mit den Diensten:

PostgreSQL
Bacula
Podman und Container für Nginx Redis Nextcloud Netatalk
nfs-kernel-server

Und noch interne Sachen wie Selinux, Chronyd und die Argon-Lüftersteuerung zum Beispiel. Plattendurchsatz ist bei dem Preis noch voll akzeptabel

https://argon40.com/

[cosinus]

Verstehe jetzt nicht was du da meinst mit 2000 h weniger du hast die also neu im Juli gekauft. Bei Dauerbetrieb wären das also nach großzügiger Rechnung drei Monate also 90 Tage oder 2160 h. Das passt doch oder nicht?

Ich hab leider zuwenig Erfahrung was SMR angeht. NAS-Systeme hab ich schon öfter eingerichtet, da aber immer peinlich genau drauf geachtet, dass ich kompatibele Platte in CMR-Technik dann einsetze. Den letzten Tausch hab ich Anfang des Jahres gemacht; da wurden acht 4-TB durch acht 8-TB-Platten ersetzt. Vllt kann der noch @MSFree sagen ob die mismatch errors durch SMR verursacht werden können.

[minimike]

Ok Danke me = Mathe 6.. Mal wieder

[cosinus]

Ok Danke me = Mathe 6.. Mal wieder

Nachhilfe gibt es da

[MSfree]

Vllt kann der noch @MSFree sagen ob die mismatch errors durch SMR verursacht werden können.

Ich meide SMR-Platten, wie der Teufel das Weihwasser.

Ob der Mismatch-Error tatsächlichm mit SMR in Zusammenhang zu bringen ist, weiß ich auch nicht mit Gewißheit. Ich könnte mir aber vorstellen, daß die Platten nach dem Einschalten, erstmal ihre interne Integritätsprüfung ablaufen lassen und ggfls. Spuren umsortieren, was dann auch einige Zeit in Anspruch nehmen kann. Melden die Platten nicht rechzeitig ihre Bereitschaft, könnte das in dem degenerierten RAID resultieren.

Wenn man ein RAID mit 2.5-Zoll Platten aufbauen will, hat man nur die Wahl höchstens 2.5TB-Platten einzusetzen, denn das ist (oder war bis vor kurzem) die größte Kapazität, die es in CMR gibt.

[cosinus]

Ich meide SMR-Platten, wie der Teufel das Weihwasser.

Ich auch. Aber irgendwie wollen sich die Plattenhersteller über Wasser halten. Durch die Produktion von Schrottplatten bekommen die jedenfalls mein Vertrauen nicht mehr zurück. Es sollte dick und fett CMR oder SMR draufgedruckt sein. Oder was meinst du?

[heisenberg]

Könnte durchaus sein, dass Du die 450 € für die Platten zum Fenster rausgeworfen hast. Vielleicht kann man die noch für 50% vom Neupreis verkaufen und dann vernünftige Platten/SSDs ordern.

Bei dem Platzbedarf wären 2 x 16 TB HDD 3,5 Zoll als RAID-1 eine mögliche Lösung (~500 €). Die sind aber möglicherweise nicht wohnungstauglich bzgl. Lautstärke.

Alternative wären günstige SSDs z. B. 3 x 8 TB (Samsung 870 QVO) ebenso als RAID-5 (~950 €). Hier wäre die Frage, wie schreibintensiv Du den Speicher nutzt. Gerade die günstigen SSDs haben natürlich keine extrem hohe Schreiblastkapazität.

Wenn SSD dann aber bald. Die Preise waren die ganze Zeit am fallen. Die Produktion wurde da wohl jetzt drastisch zurückgefahren und die Preise sind deswegen am steigen. Aber so einfach scheint das wohl nicht zu sein. Siehe [1]. Ich habe vor kurzem ein paar Server bestellt und direkt die Antwort bekommen: Die SSDs sind nicht zu haben. Da müssen wir die Serverkonfiguration ändern. Ansonsten nächster voraussichtlicher Liefertermin: Ende Oktober.

Desweiteren könntest Du versuchen, mit dieser problematischen Situation zu leben und mal schauen, vielleicht tut's ja gerade so.

[1] PC-Games-Hardware: Speicherkrise: Samsung drosselt nun doch die Produktion

[minimike]

Könnte durchaus sein, dass Du die 450 € für die Platten zum Fenster rausgeworfen hast. Vielleicht kann man die noch für 50% vom Neupreis verkaufen und dann vernünftige Platten/SSDs ordern.

Bei dem Platzbedarf wären 2 x 16 TB HDD 3,5 Zoll als RAID-1 eine mögliche Lösung (~500 €). Die sind aber möglicherweise nicht wohnungstauglich bzgl. Lautstärke.

Ich hatte mich für diese Platten entschieden weil auf dem Papier zwei potentielle 3,5 Zoll Platten mehr Strom verbrauchen als die von mir gekauften vier. Und zwei 3,5er wären auch noch etwas teuerer in der Anschaffung gewesen. Das mit SMR habe ich bei dieser Konversation nun gelernt. Ansonsten habe Ich nur noch mit Enterprise Umgebungen zu tun wo mir egal ist, was wo kostet. Ich zahle es ja eh nicht...

Sobald ein gerade laufender Job erledige wurde, werde ich das System offline nehmen und den Resync anstoßen. Dann noch einen ausführlichen Smarttest auf der Platte ausführen. Und vorher das wichtigste zum Wiederherstellen sichern.

Aber da gab es doch einen Bootparameter für den Kernel wo er einen festgelegten Zeitraum auf die Initierung Von Hardware warten soll, Ich habe den gerade vergessen. Weis den zufällig jemand? Vielleicht ist das keine Lösung für SMR aber ein Workaround...

[cosinus]

Wer billig kauft, kauft oft 2x
Ich hab mir auch schonmal überlegt, für zu Hause ein NAS einzurichten. Dann stellte ich aber den Sinn in Frage...meine Backups kann ich auch vernünftig auf externe Platten machen bzw. normale SATA-Platten, die ich einfach in ein Festplattendock stecke. Und über USB3 gehts immer noch schneller als über GBit-Netzwerk.

Was speicherst du denn alles, dass du privat ein so großes RAID brauchst? Sry aber ich bin immer so neugierig

[MSfree]

Ich hab mir auch schonmal überlegt, für zu Hause ein NAS einzurichten.

Die Frage ist doch auch, ob man für ein NAS überhaupt ein RAID benötigt. Wenn es wirklich 16TB sein sollen, kann man das auch mit einer einzelnen 3.5-Zoll CMR-Festplatte erreichen. Der Stromverbrauch einer einzelnen 3.5-Zoll Platte ist auch nicht höher als der von vier 2.5-Zoll Platten im RAID. Moderne 3.5-Zoll Plattenziehen um die 7W.

Das Thema Backup ist aber eine ganz andere Baustelle. Man kann Backups natürlich auf einem NAS mit einem RAID-System ablegen. RAIDs ansich sind aber kein Backup.

RAIDs nutzt man aus zwei Gründen. Einerseits, um Volumes zu erzeugen, die deutlich größer als die größte Einzelplatte ist, also zur Zeit für mehr als 22TB. Andererseits, um Downtimes bei einem Plattenausfall niedrig zu halten, weil Der Plattentausch in vielen Fällen im Betrieb stattfinden kann, ohne das System runterfahren zu müssen, und ohne den Datenzugriff währenddessen zu verhindern.

RAIDs sind aber kein Schutz gegen versehentliches löschen oder gegen Erpressungssoftware, die den Datenbestand verschlüsselt.

[cosinus]

RAIDs ansich sind aber kein Backup.

Das habe ich nicht gesagt und ich wollte es auch nicht sagen. RAID sorgt aber für Hochverfügbarkeit und ein Stück mehr Sicherheit, viele verwenden so ein NAS mit dickem RAID als Datenhalde für alles Mögliche: Archiv, Backups, Musik und Videos.

Für privat finde ich 3-4 externe Platten sinnvoller als ein dickes RAID. Dann kann man die Platten fürs Backup schön rotieren und falls mal eine Backupplatte kaputtgeht ist das auch keine Katastrophe.

[minimike]

Wer billig kauft, kauft oft 2x
Was speicherst du denn alles, dass du privat ein so großes RAID brauchst? Sry aber ich bin immer so neugierig

Ich habe privat ein paar SLES 12/15 und RHEL 8/9 basierende Umgebungen mit speziellen Diensten/Produkten. Ich benutze die um zu Trainieren damit ich nicht so viel vergesse. Oder auch mal wenn Redhat um die Ecke kommt und meint mmhh "lecker lecker, extra knusprig und rock stable.. " Das System sichert das. Mit dem Ziel möglichst billig aber alles voll automatisch. Nur Reboots (kexec) mache ich noch manuell. Backups für meine Mac's mit TimeMachine und ist Storage für Pulp. Spiegelt zusätzlich meine Dokumentenverzeichnisse mit Nextcloud. Wenn das Ausfällt ist das nur doof. Wenn ich nicht gleichzeitig auch ein Backup brauche. Wofür ich am Längsten gebraucht habe, war um Kernel-Parameter zu finden wo das stabiel läuft und um das Setup soweit zu Sichern das alle Dienste mit MLS Policy Laufen . Sowie Experimente mit BTRFS und ZFS die aber negativ verliefen.

[cosinus]

Alter Verwalter, das alles privat?!
Das wäre mir zuviel. Mir reicht es schon das Windows-11-Notebook von meinem Vaddi 1x im MOnat zu sichern und täglich meine nach siduction umgebaute Debian-Installation zu aktualisieren (an dieser Stelle nochmal ein dickes Danke an @towo)

Dass IBM aus RHEL alles rauszuholen versucht war leider klar. Mal sehen was nun aus Rocky Linux wird. Alma hat ja im Prinzip aufgegeben...

[minimike]

SuSE will EInspringen. Bin gespannt ob die da Betreff Enterprise mal venünftige Upgrades hinbekommen.

[cosinus]

SuSE will EInspringen. Bin gespannt ob die da Betreff Enterprise mal venünftige Upgrades hinbekommen.

Eigentlich ist mir das egal, aber unsere Entwicklung hat sich für diese eine Software entschieden. Wenn das bedeutet, irgendwann auf RHEL umzusteigen, dann ist das so. Mich nervt das nur weil ich keine einheitliche Debian-Umgebung habe. Hier ne Sonderlocke da, ne Sonderlocke dort und schon hat man nen Zoo aus Windows Server 2019, 2016, Debian 11 und 12 und Ubuntu 20.04 für das es keinen Kernel 5.19 gibt

[minimike]

Debian preist sich als universelles Betriebsystem an. Das heisst de Facto da ist Enterprise ausgeschlossen. Und die Bubunten machen nur Entenscheiss. Debian wird sich nie soweit Dehnen und Verbiegen. Und wenn doch, dann freue ich mich mal in ner Stunde 2500 Systeme zu Installieren. Wenn es mal im Business eng wird
SAP Hana ist auf Debian ausgeschlossen. Coole Sachen für Lifecycle Managment, automatische Deployments sind für Debian nicht verfügbar. OpenStack unter Debian ist höflich gesagt sehr speziell. Und beim IPA Server haben die anscheinend Aufgegeben. Schade das es FIPS nicht in Debian 12 geschafft hat.

[cosinus]

Schade das es FIPS nicht in Debian 12 geschafft hat.

Wen interessiert das denn? Das ist irgendein Ami-Standard. In Deutschland wird eh noch von Neuland oder Zähnen gefaselt, die von Flüchtlingen geklaut werden oder so

[minimike]

Diese AMI Standard ist IMHO ein Segen für mehr an Sicherheit. Es ist alles äusserst streng reglementiert und standardisiert. Die Europäer bekommen sowas wie SELINUX und FIPS nicht hin. Leider. FIPS ist zum Beispiel, ist ein Requirement um Foreman zu Installlieren,