df.de hakelt böse
- brill
- Beiträge: 354
- Registriert: 04.02.2005 10:37:34
- Lizenz eigener Beiträge: GNU General Public License
Re: df.de hakelt böse
also ich hatte bisher nicht das Problem aber wenn es wohl immer um 12 und 0 Uhr auftritt und immer mit der SQL fehler meldung wäre doch mal zu Prüfen ob ein Zeitlcih definierter Task immer um die Uhrzeit losgeht den Datenbankserver lamlegt?
gehen denn in der Zeit noch andere Sachen auch nicht?
vielleicht kann jemand mit Konsolen Zugang um 12 Uhr mal testen ob er so auf die Datenbank kommt.
oder Treten noch andere Fehlermeldungen auf (wie gesagt ich hab den Fehler noch nicht gesehen)
Brill
gehen denn in der Zeit noch andere Sachen auch nicht?
vielleicht kann jemand mit Konsolen Zugang um 12 Uhr mal testen ob er so auf die Datenbank kommt.
oder Treten noch andere Fehlermeldungen auf (wie gesagt ich hab den Fehler noch nicht gesehen)
Brill
- whisper
- Beiträge: 3192
- Registriert: 23.09.2002 14:32:21
- Lizenz eigener Beiträge: GNU Free Documentation License
-
Kontaktdaten:
Re: df.de hakelt böse
Vor einer halben Stunde hat das Forum auch nicht reagiert, habe aber nicht auf Timeout gewartet, da das Intranet hier auch monentan wackelig ist.
Vorsorglich könnte man mysql Probleme ausschliessen, wenn man mal tuning-primer.sh startet. Wenn ein paar Parameter kanpp sind, könnte es durchaus zu solchen Effekten kommen.
Ich habe einen Rootserver, bei dem Stück für Stück immer mehr Datenbanken dazu kommen, Auch da muss ich halt mal nachsteuern.
Vorsorglich könnte man mysql Probleme ausschliessen, wenn man mal tuning-primer.sh startet. Wenn ein paar Parameter kanpp sind, könnte es durchaus zu solchen Effekten kommen.
Ich habe einen Rootserver, bei dem Stück für Stück immer mehr Datenbanken dazu kommen, Auch da muss ich halt mal nachsteuern.
- brill
- Beiträge: 354
- Registriert: 04.02.2005 10:37:34
- Lizenz eigener Beiträge: GNU General Public License
Re: df.de hakelt böse
Ich war leider um 12 nicht online?
kann denn jemand bestätigen das der Fehler wieder aufgetreten ist?
Brill
kann denn jemand bestätigen das der Fehler wieder aufgetreten ist?
Brill
Re: df.de hakelt böse
Ja, kann ich bestätigen.brill hat geschrieben:kann denn jemand bestätigen das der Fehler wieder aufgetreten ist?
Habe aber gegen 12:20 aufgegeben, ich weiß also nicht, wie lange der Ausfall gedauert hat.
Gruß,
Daniel
- brill
- Beiträge: 354
- Registriert: 04.02.2005 10:37:34
- Lizenz eigener Beiträge: GNU General Public License
Re: df.de hakelt böse
so blöd wie es klingt, aber wenigstens tritt der Fehler regelmäßig auf.
da haben die Admins wenigstens einen Anhaltspunkt zur Fehlersuche.
jetzt liegt es eben an den Admins die Fehlerzeitpunkte zu untersuchen.
Hoffentlich wird der Fehler bald gefunden.
Brill
da haben die Admins wenigstens einen Anhaltspunkt zur Fehlersuche.
jetzt liegt es eben an den Admins die Fehlerzeitpunkte zu untersuchen.
Hoffentlich wird der Fehler bald gefunden.
Brill
- blueflidge
- Beiträge: 1414
- Registriert: 31.01.2005 10:16:49
- Lizenz eigener Beiträge: MIT Lizenz
- Wohnort: bei Bonn
Re: df.de hakelt böse
Ein SQL-Fehler war das heute nacht und heute mittag aber nicht. Da gabs nur Timeouts.
- brill
- Beiträge: 354
- Registriert: 04.02.2005 10:37:34
- Lizenz eigener Beiträge: GNU General Public License
Re: df.de hakelt böse
betraf der Timeout nur das Forum oder auch die Anderen Dienste?
Brill
Brill
- blueflidge
- Beiträge: 1414
- Registriert: 31.01.2005 10:16:49
- Lizenz eigener Beiträge: MIT Lizenz
- Wohnort: bei Bonn
Re: df.de hakelt böse
Nur das Forum, das Wiki ging ohne Probleme.
Der Jabber-Transport hat allerdings auch ein bisschen gelaggt.
Der Jabber-Transport hat allerdings auch ein bisschen gelaggt.
- brill
- Beiträge: 354
- Registriert: 04.02.2005 10:37:34
- Lizenz eigener Beiträge: GNU General Public License
Re: df.de hakelt böse
das macht es dann leider wieder schwierig.
wenn es mein Server wäre würde ich mir zu dem Zeitpunkt mal top anschauen.
das das Wiki tut und das Forum nicht könnte aber immer noch für ein Datenbank Problem sprechen, da MoinMoin ja kein Mysql verwendet soweit ich weiß.
Brill
wenn es mein Server wäre würde ich mir zu dem Zeitpunkt mal top anschauen.
das das Wiki tut und das Forum nicht könnte aber immer noch für ein Datenbank Problem sprechen, da MoinMoin ja kein Mysql verwendet soweit ich weiß.
Brill
- feltel
- Webmaster
- Beiträge: 10368
- Registriert: 20.12.2001 13:08:23
- Lizenz eigener Beiträge: MIT Lizenz
- Wohnort: Leipzig, Germany
-
Kontaktdaten:
Re: df.de hakelt böse
Die Ursache für die Lags um 12 und 00h ist definitv das Backupscript. Das ist aber leider imho derzeit die einigste Möglichkeit ein Backup der DB zu ziehen. Replikation geht nicht da kein Replikationspartner vefügbar ist.
Hier mal die Ausgabe von tuning-primer.sh. Die vorgegebenen Vorschläge werde ich noch einpflegen.
Hier mal die Ausgabe von tuning-primer.sh. Die vorgegebenen Vorschläge werde ich noch einpflegen.
Code: Alles auswählen
leela:~# ./tuning-primer.sh
- INITIAL LOGIN ATTEMPT FAILED -
Testing Stored for passwords: None Found
- RETRY LOGIN ATTEMPT FAILED -
Could not auto detect login info!
Do you have your login handy ? [y/N] : y
User: xxxxxxxxxxx
Password:
Would you like me to create a ~/.my.cnf file for you? [y/N] :
-- MYSQL PERFORMANCE TUNING PRIMER --
- By: Matthew Montgomery -
MySQL Version 5.0.32-Debian_7etch5-log x86_64
Uptime = 39 days 20 hrs 38 min 9 sec
Avg. qps = 10
Total Questions = 37283462
Threads Connected = 23
Server has been running for over 48hrs.
It should be safe to follow these recommendations
To find out more information on how each of these
runtime variables effects performance visit:
http://dev.mysql.com/doc/refman/5.0/en/server-system-variables.html
Visit http://www.mysql.com/products/enterprise/advisors.html
for info about MySQL's Enterprise Monitoring and Advisory Service
SLOW QUERIES
The slow query log is NOT enabled.
Current long_query_time = 10 sec.
You have 3425 out of 37283483 that take longer than 10 sec. to complete
Your long_query_time may be too high, I typically set this under 5 sec.
BINARY UPDATE LOG
The binary update log is enabled
WORKER THREADS
Current thread_cache_size = 128
Current threads_cached = 106
Current threads_per_sec = 0
Historic threads_per_sec = 0
Your thread_cache_size is fine
MAX CONNECTIONS
Current max_connections = 500
Current threads_connected = 23
Historic max_used_connections = 501
The number of used connections is 100% of the configured maximum.
You should raise max_connections
MEMORY USAGE
Max Memory Ever Allocated : 94 G
Configured Max Per-thread Buffers : 94 G
Configured Max Global Buffers : 538 M
Configured Max Memory Limit : 94 G
Physical Memory : 1.96 G
Max memory limit exceeds 90% of physical memory
KEY BUFFER
Current MyISAM index space = 551 M
Current key_buffer_size = 512 M
Key cache miss rate is 1 : 53
Key buffer fill ratio = 70.00 %
Your key_buffer_size seems to be fine
QUERY CACHE
Query cache is enabled
Current query_cache_size = 16 M
Current query_cache_used = 8 M
Current query_cache_limit = 1 M
Current Query cache Memory fill ratio = 50.81 %
Current query_cache_min_res_unit = 4 K
MySQL won't cache query results that are larger than query_cache_limit in size
SORT OPERATIONS
Current sort_buffer_size = 128 M
Current read_rnd_buffer_size = 256 K
Sort buffer seems to be fine
JOINS
Current join_buffer_size = 64.00 M
You have had 527 queries where a join could not use an index properly
join_buffer_size >= 4 M
This is not advised
You should enable "log-queries-not-using-indexes"
Then look for non indexed joins in the slow query log.
OPEN FILES LIMIT
Current open_files_limit = 4606 files
The open_files_limit should typically be set to at least 2x-3x
that of table_cache if you have heavy MyISAM usage.
Your open_files_limit value seems to be fine
TABLE CACHE
Current table_cache value = 2048 tables
You have a total of 182 tables
You have 999 open tables.
The table_cache value seems to be fine
TEMP TABLES
Current max_heap_table_size = 16 M
Current tmp_table_size = 96 M
Of 726878 temp tables, 7% were created on disk
Effective in-memory tmp_table_size is limited to max_heap_table_size.
Created disk tmp tables ratio seems fine
TABLE SCANS
Current read_buffer_size = 128 K
Current table scan ratio = 69 : 1
read_buffer_size seems to be fine
TABLE LOCKING
Current Lock Wait ratio = 1 : 301
You may benefit from selective use of InnoDB.
If you have long running SELECT's against MyISAM tables and perform
frequent updates consider setting 'low_priority_updates=1'
If you have a high concurrency of inserts on Dynamic row-length tables
consider setting 'concurrent_insert=2'.
leela:~#
debianforum.de unterstützen? Hier! | debianforum.de Verhaltensregeln | Bitte keine Supportanfragen per PM
- brill
- Beiträge: 354
- Registriert: 04.02.2005 10:37:34
- Lizenz eigener Beiträge: GNU General Public License
Re: df.de hakelt böse
Danke Feltel für deine Mühe.
vielleicht könnte man während das Backup läuft das Forum durch eine Statuspage ersetzt, auf der einfach steht Backup Läuft, Das Forum ist in ein paar Minuten wieder online.
Dann ist einfach jedem klar was los ist.
Brill
vielleicht könnte man während das Backup läuft das Forum durch eine Statuspage ersetzt, auf der einfach steht Backup Läuft, Das Forum ist in ein paar Minuten wieder online.
Dann ist einfach jedem klar was los ist.
Brill
Re: df.de hakelt böse
Oder man lässt das Script einfach nachts laufen..brill hat geschrieben:Danke Feltel für deine Mühe.
vielleicht könnte man während das Backup läuft das Forum durch eine Statuspage ersetzt, auf der einfach steht Backup Läuft, Das Forum ist in ein paar Minuten wieder online.
Dann ist einfach jedem klar was los ist.
Brill
Gruß
-
- Beiträge: 2186
- Registriert: 18.09.2005 15:52:02
- Lizenz eigener Beiträge: GNU Free Documentation License
-
Kontaktdaten:
Re: df.de hakelt böse
Wie wär's denn, wenn man bei der mittlerweile hohen Kapazität, die abgefragt wird, einen vServer hinzumietet und als Replikations-Slave einsetzt?
jhr
jhr
Desktop: Intel Core2Quad Q8300 2.5GHz, 256GB SSD + 1 TB HDD, 8 GB RAM, Debian Sid, Kernel 3.13
-
- Beiträge: 2186
- Registriert: 18.09.2005 15:52:02
- Lizenz eigener Beiträge: GNU Free Documentation License
-
Kontaktdaten:
Re: df.de hakelt böse
Nur ein mal nachts? Das find ich für die Aktivitäten hier ein bisschen wenig...Tintom hat geschrieben:Oder man lässt das Script einfach nachts laufen..
jhr
Desktop: Intel Core2Quad Q8300 2.5GHz, 256GB SSD + 1 TB HDD, 8 GB RAM, Debian Sid, Kernel 3.13
Re: df.de hakelt böse
kann das Backupscript auch mit inkrementellen Backups umgehen ? Ein inkrementelles Backup dürfte eigentlich nicht solche Hänger verursachen (sollte nicht einmal bemerkbar sein) und es sollte dann genügen, wenn man einmal in der Woche ( oder in noch größeren Intervallen) ein Fullbackup fährt.feltel hat geschrieben: Die Ursache für die Lags um 12 und 00h ist definitv das Backupscript.
Das ist aber leider imho derzeit die einigste Möglichkeit ein Backup der DB zu ziehen. Replikation geht nicht da kein Replikationspartner vefügbar ist.
Eines verstehe ich auch noch nicht, diese Probleme sind doch in dieser Form erst in letzter Zeit aufgetreten, gibts dafür eine Erklärung warum gerade jetzt ?
Gruß
gms
- feltel
- Webmaster
- Beiträge: 10368
- Registriert: 20.12.2001 13:08:23
- Lizenz eigener Beiträge: MIT Lizenz
- Wohnort: Leipzig, Germany
-
Kontaktdaten:
Re: df.de hakelt böse
Das Backupscript ist in diesem Fall ein Durchlauf von mysqldump mit den folgenden Parametern:
Es ist also schon heruntergeniced und zieht trotzdem viel Performance.
Code: Alles auswählen
00 */12 * * * root nice -n19 /usr/bin/mysqldump --extended-insert --quick --add-drop-table --add-locks -uUSERNAME -pPASSWORD debianforum_de > /backup/debianforum_de.sql
debianforum.de unterstützen? Hier! | debianforum.de Verhaltensregeln | Bitte keine Supportanfragen per PM
Re: df.de hakelt böse
Vielleicht fällt ja noch jemand etwas ein, wie dieses Fullbackup verbessert werden kann, meine Erfahrung beschränkt sich leider auf properitäre DBMS.
Hier habe ich die Beschreibung zum inkrementellen Backup herausgesucht ( http://dev.mysql.com/doc/refman/5.0/en/ ... olicy.html ). Am Ende befindet sich auch ein Beispielscript.
Hier habe ich die Beschreibung zum inkrementellen Backup herausgesucht ( http://dev.mysql.com/doc/refman/5.0/en/ ... olicy.html ). Am Ende befindet sich auch ein Beispielscript.
Re: df.de hakelt böse
Möglicherweise liegt das daran, das der dump noch andere mysql Prozesse anzieht, die dann eben nicht geniced sind. Ideen habe ich aber auch keine.feltel hat geschrieben:Es ist also schon heruntergeniced und zieht trotzdem viel Performance.
Mich würde auch mal interessieren, wieso das seit einiger Zeit nicht mehr richtig tut. Der Umfang der DB, etc. dürfte sich ja nicht gewaltig geändert haben.
Lösungen im Web schlagen auch das hier schon erwähnte Sichern auf einen anderen Server / V-Space vor.
Re: df.de hakelt böse
Hallo,
genau wissen kann ich das natürlich nicht, also nur meine gefühlte Meinung.
Einerseits scheint es ja klar mit dem Backup zusammen zuhängen, andererseits scheint das Problem sich zu verstärken, je länger der Server bzw. das Forum läuft.
Sollte es so sein, würde ich nochmal in anderer Richtung suchen, denn der letztendliche Auslöser muss ja nicht die eigentliche Ursache sein.
gruss neuss
genau wissen kann ich das natürlich nicht, also nur meine gefühlte Meinung.
Einerseits scheint es ja klar mit dem Backup zusammen zuhängen, andererseits scheint das Problem sich zu verstärken, je länger der Server bzw. das Forum läuft.
Sollte es so sein, würde ich nochmal in anderer Richtung suchen, denn der letztendliche Auslöser muss ja nicht die eigentliche Ursache sein.
gruss neuss
stell dir vor, es geht, und keiner kriegt es hin.
- whisper
- Beiträge: 3192
- Registriert: 23.09.2002 14:32:21
- Lizenz eigener Beiträge: GNU Free Documentation License
-
Kontaktdaten:
Re: df.de hakelt böse
Was mich außer der Anzahl der max Connections von 500 verblüfft ist der immense Arbeitsspeicher bedarf. Entweder das Script lügt, oder du hast wirklich ein Problem: 94Gigfeltel hat geschrieben: Die vorgegebenen Vorschläge werde ich noch einpflegen.
Hast du mytop installiert?
Sagt das dasselbe zum Speicherverbrauch?
Die Maschine selbst hat wohl 2Gig Ram, oder?
- habakug
- Moderator
- Beiträge: 4313
- Registriert: 23.10.2004 13:08:41
- Lizenz eigener Beiträge: MIT Lizenz
Re: df.de hakelt böse
Hallo!
mysqldump ist mit Sicherheit das ungeeignetste und langsamste Backup-Tool das man sich vorstellen kann. Tiefergehende Kenntnisse über dieses Tool scheinen jedenfalls nicht vorhanden zu sein: mysqldump wird per default mit dem Parameter "--opt" gestartet, der die Parameter "--add-drop-table --add-locks --create-options --disable-keys --extended-insert --lock-tables --quick --set-charset" enthält. Um die in dem Cronjob angegebenen Parameter mit Wirksamkeit zu versehen, müsste ein "--skip-opt" vorangestellt werden.
Gruß, habakug
mysqldump ist mit Sicherheit das ungeeignetste und langsamste Backup-Tool das man sich vorstellen kann. Tiefergehende Kenntnisse über dieses Tool scheinen jedenfalls nicht vorhanden zu sein: mysqldump wird per default mit dem Parameter "--opt" gestartet, der die Parameter "--add-drop-table --add-locks --create-options --disable-keys --extended-insert --lock-tables --quick --set-charset" enthält. Um die in dem Cronjob angegebenen Parameter mit Wirksamkeit zu versehen, müsste ein "--skip-opt" vorangestellt werden.
Gruß, habakug
- feltel
- Webmaster
- Beiträge: 10368
- Registriert: 20.12.2001 13:08:23
- Lizenz eigener Beiträge: MIT Lizenz
- Wohnort: Leipzig, Germany
-
Kontaktdaten:
Re: df.de hakelt böse
Das --opt default ist ist aber dann erst seit MySQL 5 so. In der 4er-Version, die ja bis letztes Jahr lief war das jedenfalls noch nicht so. Es sei mir verziehen das ich nicht die Relnotes gelesen hab.
Was für andere Backupmethoden wären denn Deiner Meinung nach mysqldump vorzuziehen unter Beachtung das wie schon vorab erwähnt kein zweiter Rechner zur Einrichtung einer Replikation zur Verfügung steht. mysqlhotcopy kopiert ja auch nur von DB zu DB und ich brauch die Daten aber in einem Format das man im Fall des Falles auch händisch bearbeiten und/oder fixen kann.
Was für andere Backupmethoden wären denn Deiner Meinung nach mysqldump vorzuziehen unter Beachtung das wie schon vorab erwähnt kein zweiter Rechner zur Einrichtung einer Replikation zur Verfügung steht. mysqlhotcopy kopiert ja auch nur von DB zu DB und ich brauch die Daten aber in einem Format das man im Fall des Falles auch händisch bearbeiten und/oder fixen kann.
debianforum.de unterstützen? Hier! | debianforum.de Verhaltensregeln | Bitte keine Supportanfragen per PM
-
- Beiträge: 2186
- Registriert: 18.09.2005 15:52:02
- Lizenz eigener Beiträge: GNU Free Documentation License
-
Kontaktdaten:
Re: df.de hakelt böse
Ganz im Ernst, Sebastian, meinst du nicht, dass es dann jetzt angemessen wäre, ein Zweitsystem für Backups zu halten? Ich würde stark zu einem vServer tendieren, der die DB als Slave halten kann...
jhr
jhr
Desktop: Intel Core2Quad Q8300 2.5GHz, 256GB SSD + 1 TB HDD, 8 GB RAM, Debian Sid, Kernel 3.13
- habakug
- Moderator
- Beiträge: 4313
- Registriert: 23.10.2004 13:08:41
- Lizenz eigener Beiträge: MIT Lizenz
Re: df.de hakelt böse
Hallo!
@feltel
Wenn du mysqldump nutzen willst, solltest du im mysql-Server das binary logging einschalten (--log-bin). Dann kannst du auf einfache Weise mit inkrementellen Backups arbeiten [1]. (Kapitel 6.2.1)
Eine andere Lösung wäre zmanda [2].
Gruß, habakug
[1] http://theoryx5.uwinnipeg.ca/mysql/back ... overy.html
[2] http://www.zmanda.com/backup-mysql.html
@feltel
Wenn du mysqldump nutzen willst, solltest du im mysql-Server das binary logging einschalten (--log-bin). Dann kannst du auf einfache Weise mit inkrementellen Backups arbeiten [1]. (Kapitel 6.2.1)
Eine andere Lösung wäre zmanda [2].
Gruß, habakug
[1] http://theoryx5.uwinnipeg.ca/mysql/back ... overy.html
[2] http://www.zmanda.com/backup-mysql.html
Re: df.de hakelt böse
das könntest du auch, wenn du das inkrementelle Backup verwendestfeltel hat geschrieben: ich brauch die Daten aber in einem Format das man im Fall des Falles auch händisch bearbeiten und/oder fixen kann.
das Backup wird aber dadurch schon ein bißerl teuer.jhr-online hat geschrieben: Ganz im Ernst, Sebastian, meinst du nicht, dass es dann jetzt angemessen wäre, ein Zweitsystem für Backups zu halten? Ich würde stark zu einem vServer tendieren, der die DB als Slave halten kann...
Es gibt ja noch nicht einmal eine Begründung, warum das Backup jetzt auf einmal solche Schwierigkeiten macht, vielleicht ist nicht einmal der Umstieg auf das inkrementelle Backup, mysqlhotcopy, o.ä notwendig.
Gruß
gms