Serverneustart 27.10.2004 07:00 Uhr

Neues rund um debianforum.de
Benutzeravatar
blackm
Moderator und Co-Admin
Beiträge: 5918
Registriert: 02.06.2002 15:03:17
Lizenz eigener Beiträge: MIT Lizenz

Beitrag von blackm » 11.11.2004 14:28:19

Ich glaub da wertet ihr enttaeuscht sein wie einfach das ist. Die Hardware ist die gleiche wie sie jeder von euch @ home hat und es laufen auch die gleichen Programme drauf. Apache, mysql, postfix, mailman,...

Software maessig wird der neue rooti genauso aussehen, nur etwas staerkere Hardware - aber auch kein Wunderrechner (also so um die 3 Ghz und 1 - 2 GB Speicher).

Im Wiki gab / gibt es zum ersten rooti eine Statusseite. Denke das werden wir auch beim neuen so einrichten...

by, Martin
Schöne Grüße

Martin

Neu im Forum? --> https://wiki.debianforum.de/debianforum ... tensregeln
Log- und Konfigurationsdatein? --> pastebin.php
Forum unterstützen? --> https://wiki.debianforum.de/debianforum.de/Spenden

Benutzeravatar
feltel
Webmaster
Beiträge: 9806
Registriert: 20.12.2001 13:08:23
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: Leipzig, Germany
Kontaktdaten:

Beitrag von feltel » 11.11.2004 14:30:16

blackm hat geschrieben:Software maessig wird der neue rooti genauso aussehen, nur etwas staerkere Hardware - aber auch kein Wunderrechner (also so um die 3 Ghz und 1 - 2 GB Speicher).
Nur das wir dann aber statt Woody gleich Sarge einsetzen werden. Alles in allem aber ist das sicherlich nicht sonderlich Spannend und auch keine Hexerei :wink:

Nachtrag: blackm meinte diese Seite hier: http://www.debianforum.de/wiki/Debianfo ... inrichtung

Benutzeravatar
blackm
Moderator und Co-Admin
Beiträge: 5918
Registriert: 02.06.2002 15:03:17
Lizenz eigener Beiträge: MIT Lizenz

Beitrag von blackm » 11.11.2004 14:38:53

feltel hat geschrieben:und auch keine Hexerei :wink:
Verdammt...jetzt hast du's verraten. Ist hoffentlich nicht so hart wie eigentlich gibt es keinen Weihnachtsmann... 8)
Schöne Grüße

Martin

Neu im Forum? --> https://wiki.debianforum.de/debianforum ... tensregeln
Log- und Konfigurationsdatein? --> pastebin.php
Forum unterstützen? --> https://wiki.debianforum.de/debianforum.de/Spenden

HorstV
Beiträge: 419
Registriert: 11.10.2003 18:34:22
Wohnort: Grenoble / Recklinghausen

Beitrag von HorstV » 11.11.2004 15:09:41

Also das der rooti keine earth-simulator sein wird, war schon klar.

Ging mir eher darum:
Wie habt ihr den Bedarf an Memory, Platte, CPU kalkuliert.
Was verursach z.Z. das Performance-Problem: Mem, CPU, Platten-IO...

Zur Statusseite, die ich schon kenne:
Mit welchen Programmen das ganze läuft war schon klar.
Ging mir eher darum.
Welche defaults sind geändert worden und warum, etc.

Btw. alles was mit Computern zu tun hat ich natürlich keine Hexerei...

...sondern Vodoo :)
SID on IBM T42p kernel 2.6.14.5 ati-8.20.8

Benutzeravatar
blackm
Moderator und Co-Admin
Beiträge: 5918
Registriert: 02.06.2002 15:03:17
Lizenz eigener Beiträge: MIT Lizenz

Beitrag von blackm » 11.11.2004 17:35:49

HorstV hat geschrieben:Ging mir eher darum:
Wie habt ihr den Bedarf an Memory, Platte, CPU kalkuliert.
Was verursach z.Z. das Performance-Problem: Mem, CPU, Platten-IO...
Naja, da haben wir die altbewaehrte Formel

Code: Alles auswählen

Pie * Daumen * Fensterkreuz
angewendet und sind zu dem Ergebnis gekommen das auch schon unsere Hypothese brachte: viel hilft viel :-) (vorallem Speicher)

...naja, gerechtet haben wir nix. Haben nur mit top geschaut was so auf dem Server passiert, haben gesehen das mysql die ganze Last macht und gesehen das viel Spaw belegt ist. Also haben wir daraus geschlossen: durch die Groesse der Datanbank reicht der Speicher nicht mehr aus um alle (oder zumindest die auf die oft zugrgriffen wird) zu cachen -> mehr Plattenzugriffe -> schlechte Performace (wir sind clever, oder ;-) ).
Also haben wir dann nach einem Angebot gesucht bei dem es einen Rechner mit viel Speicher gibt.
Btw. alles was mit Computern zu tun hat ich natürlich keine Hexerei...
Hexerei nicht, aber ein paar Sachen bei Windows kommen mir manchmal wie schwarze Magie vor...
Schöne Grüße

Martin

Neu im Forum? --> https://wiki.debianforum.de/debianforum ... tensregeln
Log- und Konfigurationsdatein? --> pastebin.php
Forum unterstützen? --> https://wiki.debianforum.de/debianforum.de/Spenden

Benutzeravatar
pdreker
Beiträge: 8297
Registriert: 29.07.2002 21:53:30
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: Nürnberg

Beitrag von pdreker » 22.11.2004 04:06:30

Vielleicht noch ein kleiner Nachsatz:
Eine der Ursachen für die Server Hänger war eine Person, die (wie sie uns per Email nach einer Abuse Beschwerde an den Provider versicherte ohne böse Absicht) das komplette Forum mit Wget mit ca. 10 Requests/s runtergeladen hat, um es offline lesen zu können. Das hat den Rootie dann leider "über die Kante geschoben".

Das ändert aber nichts daran, dass wir der Hardware so langsam einfach "entwachsen" sind, und upgraden werden, schliesslich wird das Forum ja nicht kleiner...

Hier 'mal so ein paar Eckdaten (pro Monat):
  • ca. 7,7 Millionen Hits (ca. 250000 pro Tag) entsprechend ca. 2,1 Millionen Page Impressions
  • fast 200000 Visits (ca. 6000 pro Tag)
  • ca. 35GB Traffic
  • ca. 125000 Google Referrals
Bei den Browsern führt übrigens Mozilla/5.0 mit 56.81% vor MSIE 6.0 mit 24.59% (schon Sch...ade, wenn man auf der Arbeit nur Windows hat ;-)). Auf Platz 3 folgt mit 3.39% Konqueror/3.2 vor Opera/7.5 mit 3.06% und Konqueror/3.3 mit 2.90%...

Patrick
Definitely not a bot...
Jabber: pdreker@debianforum.de

Benutzeravatar
peschmae
Beiträge: 4844
Registriert: 07.01.2003 12:50:33
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: nirgendwo im irgendwo

Beitrag von peschmae » 22.11.2004 06:27:36

Damit wäre meine ungestellte Frage, ob man das nicht schon vorher hätte bemerken sollen/können dass die Last langsam hoch wird, wohl auch beantwortet. :)

MfG Peschmä
"er hätte nicht in die usa ziehen dürfen - die versauen alles" -- Snoopy

Benutzeravatar
blackm
Moderator und Co-Admin
Beiträge: 5918
Registriert: 02.06.2002 15:03:17
Lizenz eigener Beiträge: MIT Lizenz

Beitrag von blackm » 23.11.2004 09:00:39

Waere nahe liegend, aber war leider nicht so. Wir haben ja vorher - als die Last noch nicht so hoch war - auch noch einmal pro Stunde ein komplettes Backup der Datanbank gemacht (mit mysql auf die Platte) und 2 -3 rsync's der dump Datei. Wenn diese Backup lief, dann war der load immer so zwischen 1 und 2.
Da die Zugriffe auf die Seite auch nicht viel mehr geworden sind (wie webalizer [1]) kann der einzigste Grund nur der wenige Speicher sein der fuer die immer groesser werdende Datanbank nicht mehr ausreicht.

by, Martin

[1] https://debianforum.de/webalizer
Schöne Grüße

Martin

Neu im Forum? --> https://wiki.debianforum.de/debianforum ... tensregeln
Log- und Konfigurationsdatein? --> pastebin.php
Forum unterstützen? --> https://wiki.debianforum.de/debianforum.de/Spenden

Benutzeravatar
pdreker
Beiträge: 8297
Registriert: 29.07.2002 21:53:30
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: Nürnberg

Beitrag von pdreker » 23.11.2004 16:43:19

Da die Zugriffe auf die Seite auch nicht viel mehr geworden sind (wie webalizer [1]) kann der einzigste Grund nur der wenige Speicher sein der fuer die immer groesser werdende Datanbank nicht mehr ausreicht.
ich habe auch den Verdacht, dass die phpBB Suche einen DB Vorgang auslöst, der irgendwo quadratische Komplexität hat (O(n²)), entweder im Bezug auf Platz, oder im Bezug auf Laufzeit. Meine Vermutung geht eher Richtung Speicherplatz. Durch diese n² Abhängigkeit trifft man solche Grenzen erstens sehr hart und zweitens sehr plötzlich.

Der Download des Forum durch den einen User war nur das "Sahnehäubchen", aber die Hänger hat es auch ohne diese Downloads gegeben... Das Problem ist halt, dass der Server sich nicht mehr von selbst erholt, wenn er einmal angefangen hat zu swappen. Eine recht plausible Theorie, wie die hänger zustande kommen ist folgende:
  • Der Server operiert bereits im Grenzbereich und ist eigentlich ausgelastet
  • Ein User benutzt die Suchfunktion, wodurch der Speicherbedarf plötzlich weiter ansteigt.
  • Der Speicherbedarf übersteigt den vorhandenen physischen Speicher, der Rootie muss swappen
  • Es laufen aber eigentlich nur Apache und MySQL, also muss etwas von diesen beiden rausgeswapped werden
  • Da der Server jetzt allerdings Speicher swapped, der aktuell aktiv ist, beginnt er zu thrashen [1]
  • Durch dieses Thrashing sinkt die Bearbeitungsgeschwindigkeit des Servers ganz erheblich. Die von den benutzern wahrgenommenen Reaktionszeiten des Server steigen merklich an.
  • Einige User (insbesondere die, die die Suchfunktion gerade nutzen) bekommen scheinbar keine Seiten mehr angezeigt, da der Server teilweise 2 Minuten braucht, um eine Suchanfrage aus der DB zu beantworten.
  • Dadurch klicken die Benutzer auf "Reload", weil sie glauben, es wäre ein Netzwerkproblem. Dadurch wird das problem weiter verstärkt, bis der Server sich endgültig in die Sackgasse manövriert hat. Zu diesem Zeitpunkt ist die Load so hoch, dass jeder einzelne DB Request Minuten dauern kann. Exitus.
Es sind also im Prinzip 2 selbst verstärkende Feedback Kreise am Werk: Einmal die hohe Last, die den Server schlagartig langsamer werden lässt, wenn das Thrashing beginnt, und zum anderen die User, die dann auf Reload klicken, und damit die Load noch weiter erhöhen...

Abhilfe:
  • Weniger User - Haha... Das ist nicht im Sinne des Erfinders
  • Apache bzw. MySQL irgendwie begrenzen. - Führt dann dazu, dass Benutzer oft den gefürchteten "500 - Internal Server Error" zu sehen bekommen. Auch nicht optimal, zumal der Server oft problemlos durchläuft. Mit soclhen Limits würde man im Prinzip mehr Anfragen blockieren, als ohne.
  • Mehr Power(TM). Aufrüsten auf den Binford 6900XL Server. - So geht's... Dauert halt nur ein wenig... Es wird aber schon daran gearbeitet :-)
Patrick

[1] thrashen: Im Prinzip ein "Swapsturm". Das System braucht verzweifelt mehr Speicher, kann diesen aber nur bereitstellen, indem gerade laufende Prozesse oder deren Daten ausgelagert werden, was dazu führt, dass diese Daten innerhalb von kürzester Zeit wieder reingeswapped werden müssen, und andere gerade aktivie Daten verdrängen, womit das ganze Spiel von vorne losgeht. Im prinzip werden Programme in diesem Moment nicht mehr direkt aus dem RAM sondern permanent über den Umweg Swap (Platte) ausgeführt.
Definitely not a bot...
Jabber: pdreker@debianforum.de

HorstV
Beiträge: 419
Registriert: 11.10.2003 18:34:22
Wohnort: Grenoble / Recklinghausen

Beitrag von HorstV » 28.11.2004 13:46:25

Binford 6900XL Server
Wo gibt's denn den ?
SID on IBM T42p kernel 2.6.14.5 ati-8.20.8

Tomek
Beiträge: 254
Registriert: 07.08.2004 10:48:37
Wohnort: Paderborn

Beitrag von Tomek » 28.11.2004 15:37:58

HorstV hat geschrieben:
Binford 6900XL Server
Wo gibt's denn den ?
ArrArrArr - http://www.binford-tools.de/ ;)
Gruß,
Tomek

Benutzeravatar
peschmae
Beiträge: 4844
Registriert: 07.01.2003 12:50:33
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: nirgendwo im irgendwo

Beitrag von peschmae » 28.11.2004 16:02:25

Gugel findet dazu genau einen Link. Rate mal welchen ;)
http://www.google.com/search?q=Binford+6900XL+Server

MfG Peschmä
"er hätte nicht in die usa ziehen dürfen - die versauen alles" -- Snoopy

Benutzeravatar
pdreker
Beiträge: 8297
Registriert: 29.07.2002 21:53:30
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: Nürnberg

Beitrag von pdreker » 29.11.2004 17:19:30

HorstV hat geschrieben:
Binford 6900XL Server
Wo gibt's denn den ?
:mrgreen:

Binford Werkzeuge sind die Dinger, die "Tim Taylor" in der Serie "Home Improvement" (auf deutsch: "Hör 'mal wer da hämmert") in seiner Heimwerkersendung verkauft. Einer seiner Leitsprüche, den er immer wieder fallen lässt, wenn er 'mal wieder den Aufsitzrasenmäher auf 300PS tuned ist "Mehr Power! *grunz* *grunz* *grunz*".

Binford XYZ steht also einfach für ein Gerät mit "Mehr Power (TM)"...

Hoffen geholfen zu haben ;-)

Patrick
Definitely not a bot...
Jabber: pdreker@debianforum.de

Benutzeravatar
peschmae
Beiträge: 4844
Registriert: 07.01.2003 12:50:33
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: nirgendwo im irgendwo

Beitrag von peschmae » 29.11.2004 17:24:07

Quasi iSeries im Vollausbau? Oder doch lieber ein EarthSimulator? Vielleicht reicehn auch schon die Cluster von Google ;)

MfG Peschmä
"er hätte nicht in die usa ziehen dürfen - die versauen alles" -- Snoopy

Benutzeravatar
suntsu
Beiträge: 2947
Registriert: 03.05.2002 10:45:12
Lizenz eigener Beiträge: MIT Lizenz
Wohnort: schweiz
Kontaktdaten:

Beitrag von suntsu » 29.11.2004 21:16:31

Also ich hab noch den 2000er, aber der läuft ;)

Antworten