RAID 10 Performance bricht auf einmal ein

[HeyLouis]

Hallo zusammen,

ich benötige eure Hilfe.

Ich hab hier ein nigel nagel neuen Server neben mir stehen. Es handelt sich um einen IBM X3650 M4

Auf dem Server laufen zwei RAID System.

Partition C: RAID 5, mit 3 x 300 GB SAS Platten mit 10.000 Umdrehungen. Dient als Systempartition + Dateiablage.
Partition D: RAID 10, mit 5x 146 GB SAS Platten mit 15.000 Umdrehungen. Hier soll künftig unsere Datenbank vom Verwaltungsprogramm laufen.

1 Platte dient als Hot Spare Platte.

Falls noch weitere Informationen benötigt werden, einfach kurz ne Info dann post ich noch mehr Infos.

Nun zu meinem Problem:

Ich hab eben die Datenbank vom alten Server auf den neuen Server rüber kopiert. Jetzt wollte ich ne Kopie von der Datenbank machen. Hab die Datenbank kopiert und eingefügt. Die Datenbank ist 48 GB groß.

Die ersten 25 GB kopiert er mit ca. 1100 MB/s, manchmal en bisschen mehr manchmal en bisschen weniger.

Nach exakt 25 GB bricht auf einmal die Performance ein und die Schreibgeschwindigkeit geht runter auf ca 700 MB, nach en paar weiteren Sekunden geht die Performance noch weiter runter bis auf 300 MB und zu letzt irgendwann auf um die 100 MB.

Was mach ich falsch? Hat jemand ne Idee ?

Vielen Dank im Voraus

Grüße

Julian

 

[computerbase107]

Dein Raid 10 läuft wirklich mit 5 Platten, oder ist die fünfte die beschriebene Hot-Spare-Platte ?

Raid 10 läuft üblicherweise mit 4, 8 oder der entsprechenden Verdoppelung an Festplatten.


Fragen: Wie hoch ist der Füllgrad vom Raid 10-Verbund ?

 

[DunklerRabe]

Das Betriebssystem auf ein Raid 5 zu legen ist nicht so wirklich sinnvoll. Naja, egal...

Das Raid 10 besteht also aus 4 Platten und 1 Hot Spare? Sind die Server mit 10 GbE verbunden? Wie sieht der Storage in dem anderen Server aus? Was für Controller sind verbaut?

 

[KeyKon]

Von wo nach wo kopierst du denn?
Evtl. läuft der RAM voll, hast du den mal beobachtet?

 

[HeyLouis]

Hätte es deutlicher hervorheben sollen. 1 Satz drunter steht "1 Platte dient als Hot Spare Platte."

Also 4 x 146 GB + 1 Hot Spare Platte.

Ergänzung (10. Juli 2013)

Das Betriebssystem auf ein Raid 5 zu legen ist nicht so wirklich sinnvoll. Naja, egal...

Das Raid 10 besteht also aus 4 Platten und 1 Hot Spare? Sind die Server mit 10 GbE verbunden? Wie sieht der Storage in dem anderen Server aus? Was für Controller sind verbaut?

Kannst du mir bitte genauer erläutern warum es nicht Sinnvoll ist das Betriebssystem auf das RAID 5 zu installieren?

Server sind unter einander mit Gbit verbunden. Aber es geht nicht darum das ich die Daten übers Netzwerk kopieren möchte sondern lokal.

Die Datenbank liegt schon auf dem RAID 10 auf der Partition D: und soll in nen anderen Ordner auf der gleichen Partition geschrieben werden.

@KeyKon: RAM ist genug da. 80 GB sind verbaut

Ergänzung (10. Juli 2013)

@computerbase107

200 GB von 271 sind noch frei

 

[DunklerRabe]

Achsooooo...

Ja dann ist das nicht weiter verwunderlich! Grundsätzlich würde ich von diesem Raid 10 übrigens nicht mehr als 400 MB/s sequentielle Datenübertragung erwarten. Auf Dauer kann es also schonmal nicht mehr als 400 MB/s geben. Dazu kommt, dass nach einer gewissen Zeit ggf. der Cache des Raidcontrollers voll ist, was sich negativ auf die Transferrate auswirkt. Und dazu kommt dann noch, dass das Quelllaufwerk identisch ist mit dem Ziellaufwerk. Das die Performance dabei auf Dauer einbricht ist normal.

Das OS auf Raid 5 ist aus Performancegründen nicht sinnvoll. Es produziert fast ausschliesslich kleine Zugriffe, was nicht unbedingt die Paradedisziplin eines Raid 5 ist. Dazu kommt dann steigende Last am Controller bei Schreibzugriffen. Da bietet sich eher ein Raid 1 an, mit oder ohne Hot Spare.

 

[HeyLouis]

@DunklerRabe vielen Dank für deine Antwort und deine Erklärung.

Ich hab jetzt mal die Daten vom RAID 10 auf´s RAID 5 und andersrum geschrieben. Im Schnitt immer um die 300 MB/s
Ihr seit der Meinung das passt von der Geschwindigkeit. Dann bin ich erst mal beruhigt.

Müsst euch mal en Video hochladen. Siehst schon sehr komisch aus. Die ersten 25 GB schreibt er in ca. 35/40 Sekunden. für die restlichen 23 GB brauch er dann ca. 8 - 10 min

Trotzdem vielen vielen dank

 

[computerbase107]

Genau, also Raid 1 für das Betriebssystem und Raid 5 für die Datenbank wäre aus meiner Sicht die bessere Konfiguration.

 

[Humptidumpti]

Völlig wurst ob hier auf einer einzigen Platte oder auf einem Array intern kopiert wird. Das ist immer lagsam weil die Lese- und Schreibköpfe bei allen Festplatten plötzlich 2 Aufgaben gleichzeitig übernehmen müssen. Von einer Stelle Lesen und auf eine andere Schreiben. Da aber jede Festplatte im Array nur einen "Arm" mit Lese- und Schreibköpfen hat gibts da logischerweise Probleme.

Da kannst du quasi nur aufgrund der 15000 U/min Platten froh sein das überhaupt 100MB/s zustande kommen. Bei anderen Platten ist das noch drastisch weniger. Alles was schneller angezeigt wird ist schlichtweg ein Auslesefehler bzw. Cache in Cache und hat mit der Performance der Platten absolut garnix am Hut.

Raid 5 als OS Array macht man aus dem Grunde nicht da das Raid 5 Array zur Parityberechnung CPU Leistung benötigt sofern kein richtiger Raidcontroller eingesetzt wird und gerade bei Lese- und Schreibzugriffen auf viele kleine Dateien massiv einbrechen kann. Und das ist nunmal das was ein OS den ganzen Tag macht. Zudem ist die Zugriffszeit im Raid auch teilweise schlechter. Und schnelle Lese und Schreibzugriffe mit geringer Latenz machen ein OS und so ziemlich jedes andere Program fix. Deshalb läuft auf dem Datenbank Array auch ein Raid 10 und kein Raid 5. Gleiches Problem.

 

[DunklerRabe]

Ich hab jetzt mal die Daten vom RAID 10 auf´s RAID 5 und andersrum geschrieben. Im Schnitt immer um die 300 MB/s
Ihr seit der Meinung das passt von der Geschwindigkeit. Dann bin ich erst mal beruhigt.

Ja absolut, 300 MB/s liegt auf jeden Fall voll im Rahmen von dem was man erwarten würde!

 

[worldoak]

Welcher Controller ist das überhaupt sind es dann 2 Controller? jeder Controller für je ein Raid?

 

[DunklerRabe]

Ich würde schätzen, dass da ein M5110 verbaut ist.

 

[HeyLouis]

Korrekt es ist ein M5110e verbaut

Ergänzung (10. Juli 2013)

Noch mal danke an alle für die Antworten
Ich installier jetzt mal alles und werd die Performance direkt im Verwaltungsprogramm testen.
Der neue Server sollte deutlich schneller unterwegs sein.

Danke

 

[Wattebaellchen]

Mir ist irgendwie unverständlich wie man bei einem neuen Server und einer so geringen Datenmenge auf HDDs setzt.

Solange Daten gecached sind und nur gelesen wird ist ja noch alles ok aber wird simultan in der Datenbank gearbeitet Rödeln die HDDs ganz ordentlich.

Selbst Platten mit 15k Umdrehungen sehen gegen eine SSD in den meisten Fällen echt alt aus.

Ein zeitgemäßes Serversystem sieht anders aus.

 

[DunklerRabe]

Hast du eine Ahnung was SSDs im Enterprise Markt kosten?
Vergiss es, das ist keinesfalls auch nur annähernd wirtschaftlich...

Wenn man viel zu viel Geld übrig hat und es ausgeben muss, dann ist es eine Option. Darüber hinaus sieht genau so ein zeitgemäßes Serversystem in dieser Klasse aus.

 

[HeyLouis]

Also ich muss das Thema noch mal aufgreifen... hier stimmt irgend etwas nicht.
Um so länger ich mit dem System arbeite um so schlimmer wird es.

Aktuell schreib ich eine 80 GB groß Zip-Datei mit ganzen 5MB/s. Das kann doch nicht sein. Vorhin war der Einbruch so groß das er im KB/s Bereich geschrieben hat. Überhitzt hier etwas ? Die Logfiles von MegaRAid weisen keine Fehler auf.

Bitte noch mal um Hilfe.

Danke & Gruß Julian

 

[DunklerRabe]

Du erstellst ein 80 GB Zip File aus vielen kleinen Dateien und wieder von und auf dem selben Laufwerk, ggf. noch mit maximaler Kompression? Wenn ja -> Normal

 

[HeyLouis]

Nee sind nur 2 Datenbanken in der Zip drin.

Weist du was ich nicht verstehe. Ich hab vorhin exakt die selbe Datei mit über 1GB/s geschrieben. Hat Problemlos funktioniert.
Ich hab die Anzeige mit mehren Tools überwacht. Waren zwar Schwankungen drin aber immer zwischen 800 - 1100 MB.
Das gleiche noch mal und noch mal probiert und irgendwann sind wieder diese extremen Einbrüche da.

 

[DunklerRabe]

Es ist garnicht möglich dauerhaft 800 bis 1100 MB/s zu kopieren auf diesem System. Diese Anzeige ist also auch schon falsch.

 

[HeyLouis]

Hmmm, ich weiß auch nicht weiter. Ich hab im Hintergrund die Firma die unser Verwaltungsprogramm betreut. Da sagen alle Techniker 1GB/s muss drin sein. Die hätten schon tausend so System an Kunden verkauft und die Schreiben alle zwischen 800 - 1000 MB.

Auf der anderen Seite sind eure Meinungen (die ich schätz und auf für richtig halte) Ihr sagt das sei nicht Möglich.

Dann kommt meine persönliche Meinung dazu. Auf der einen Seite bin ich auch der Meinung das die Platten das auf Dauer nicht schaffen.
Auf der anderen Seite habe ich es mit meinen eigenen Augen schon öfters gesehen, dass der Server Dateien von 50 GB in unter 1 Minute geschrieben hat.

Und jetzt sitzt ich hier und weiß nicht was ich machen soll.