Apache, vhosts und error.logs

Debian macht sich hervorragend als Web- und Mailserver. Schau auch in den " Tipps und Tricks"-Bereich.
Antworten
jostes
Beiträge: 7
Registriert: 21.02.2020 22:27:13

Apache, vhosts und error.logs

Beitrag von jostes » 21.02.2020 22:36:51

Hallo,

bei einem Umzug habe ich sieben vhosts mit rsync vom alten auf den neuen Server kopiert, bei vier vhosts zeitnah den Content geloescht, drei als vhosts konfiguriert, samt error.log. Die error.logs der vhosts sind in der Regel leer oder verstaendlich und ansonsten funktioniert auch alles erwartungs- und wunschgemaess. Also alles prima!

Der Wermutstropfen: Anders das Apache error.log ( /var/log/apache2/error.log ). Dort findet sich beginnend mit logrotate taeglich zunaechst ein Eintrag von mpm_prefork und ueber den Tag verteilt dazu eine Vielzahl von Fehlermeldungen zu den laengst nicht mehr vorhandenen vhosts, dazu verschiedenlich welche, die geradezu abenteulich sind. Es ist raetselhaft, woher der Apache die nimmt und wie ich das abstellen kann - zumal die nicht gefundenen error.logs (siehe unten) fuer mich jedenfalls voellig undurchsichtig sind.

Beispiel mpm_prefork,

[Tue Feb 04 06:25:01.961304 2020] [mpm_prefork:notice] [pid 30135] AH00163: Apache/2.4.25 (Debian) OpenSSL/1.0.2u configured -- resuming normal operations
[Tue Feb 04 06:25:01.961341 2020] [core:notice] [pid 30135] AH00094: Command line: '/usr/sbin/apache2'
[Tue Feb 04 06:25:02.073950 2020] [mpm_prefork:notice] [pid 30135] AH00171: Graceful restart requested, doing restart
[Tue Feb 04 06:25:02.133415 2020] [mpm_prefork:notice] [pid 30135] AH00163: Apache/2.4.25 (Debian) OpenSSL/1.0.2u configured -- resuming normal operations
[Tue Feb 04 06:25:02.133436 2020] [core:notice] [pid 30135] AH00094: Command line: '/usr/sbin/apache2'

Beispiel error.log,

couldn't open "www.asxi.de_error.20180715040010": no such file or directory - und im Anschluss daran noch ein paar Zeilen.

Der Eintrag mpm_prefork scheint bekannt, zu den weiteren Eintraegen im error.log ist nichts zu finden. Dort wird teilweise auch als "couldn't open "www.asxi.de_error": no such file or directory" eingetragen und ganz aehnlich sowohl fuer die bereits laengst entfernten und nie konfigurierten vhosts als auch fuer die drei vorhandenen und genutzten vhosts.

Bin voellig ratlos! Hat jemand eine Idee, wodurch diese Eintraege moeglicherweise oder genau ausgeloest und wie diese generalisierend abgestellt werden koennen?

Max

Benutzeravatar
HZB
Beiträge: 486
Registriert: 22.10.2003 11:52:15
Wohnort: Wien

Re: Apache, vhosts und error.logs

Beitrag von HZB » 23.02.2020 11:03:02

Schau mal welche vhosts aktiviert sind, und ob in einer Deiner Configs zB der Domainname www.asxi.de auftaucht.

Wenn ja nimms raus und dann sollten auch die Fehler verschwinden.

jostes
Beiträge: 7
Registriert: 21.02.2020 22:27:13

Re: Apache, vhosts und error.logs

Beitrag von jostes » 25.02.2020 22:39:05

asxi.de existiert nicht in der Config, ist auch sonst unauffindbar. Darum ist es fuer mich voellig unverstaendlich, wie diese Fehlermeldung ausgeloest werden koennte? In der Vhost-Config finden sich ausschliesslich die vorhandenen drei vhosts, bei denen allerdings ebenso wie bei den nicht-existierenden asxi.de nach error.logs gesucht hat, bspw. www.asxi.de_error.20180715040010, die ich bisher so noch nicht gesehen habe.

Benutzeravatar
mig
Beiträge: 152
Registriert: 26.02.2003 13:21:58
Wohnort: wien
Kontaktdaten:

Re: Apache, vhosts und error.logs

Beitrag von mig » 26.02.2020 08:47:18

Hi

Code: Alles auswählen

grep -r 'asxi.de' /etc/apache2
gibt wirklich nichts aus?

LG
Michael

jostes
Beiträge: 7
Registriert: 21.02.2020 22:27:13

Re: Apache, vhosts und error.logs

Beitrag von jostes » 26.02.2020 13:01:14

Michael

Das habe ich bereits x-mal fruchtlos versucht, ebenso nunmehr wiederholt, nicht nur bei /etc/apache2 etc. Angezeigt werden ausschliesslich die drei konfigurierten vhosts.

Was nun, was tun?

Max

Benutzeravatar
HZB
Beiträge: 486
Registriert: 22.10.2003 11:52:15
Wohnort: Wien

Re: Apache, vhosts und error.logs

Beitrag von HZB » 27.02.2020 07:09:26

Das klingt etwas strange. Gibt es da irgendwo vielleicht eine Weiterleitung zu der alten Domain ? Oder so etwas in der Art ?

Was ja auch etwas komisch ist, ist die Tatsache der er versucht ein 2 Jahre altes Errorlog zu öffnen. Logrotate ?
www.asxi.de_error.20180715040010 wäre ja der Timestamp zum Schluss.

Was wäre wenn Du das Log mal händisch anlegst und schaust was da reinkommt.

Benutzeravatar
MSfree
Beiträge: 10752
Registriert: 25.09.2007 19:59:30

Re: Apache, vhosts und error.logs

Beitrag von MSfree » 27.02.2020 08:25:28

jostes hat geschrieben: ↑ zum Beitrag ↑
26.02.2020 13:01:14
Das habe ich bereits x-mal fruchtlos versucht
Ich würde die Suche mal auf das kompeltte /etc-Verzeichnis ausdehenen und das ".de" weglassen:

Code: Alles auswählen

grep -r asxi /etc

jostes
Beiträge: 7
Registriert: 21.02.2020 22:27:13

Re: Apache, vhosts und error.logs

Beitrag von jostes » 27.02.2020 13:58:32

Der Gedanke mit www.asxi.de_error.20180715040010 ist interessant, allerdings sind die folgenden Ziffern leider nicht konstant, sondern springen hin und her.

"grep -r asxi /etc" erzielt (leider!) keine Treffer. Anders mit konfigurierten vhosts. Allerdings gibt es in den aelteren error.logs zahlreiche Treffer, immer verknuepft mit AhrefsBot. Das war neu fuer mich.

Die Verknuepfung mit einem anderen Server schliesse ich aus, weil asxi.de ohne Content bei einem Haendler geparkt wird, weil beispielsweise der gerade aktuelle Eintrag eine Domain auf einem anderen Server betrifft, die ich vor nahezu einem Jahr selbst dort eingerichtet habe und wie meine Westentasche kenne.

* couldn't open "/var/www/vhosts/www.nlp.de/cgi-bin/anagrams/wordplay.vcd": no such file or directory

Das Fazit ist jedenfalls richtig, weil das hier doch ueberhaupt nicht existiert! Und wird das Programm auf dem anderen Server genutzt, funktioniert das natuerlich auch erwartungsgemaess.

Da AhrefsBot seit Monaten unbeirrt ein dort offensichtlich fehlerhaft indexiertes CGI als Verzeichnis "/example.cgi/example.cgi" aufruft, koennte es sein, dass dadurch auch diese Eintraege im error.log ausgeloest werden? Keine Ahnung! Ich habe jetzt, wie zuvor bereits schon einmal, AhrefsBot und SemrushBot generalisierend gesperrt. Mal schauen, was passiert, wenn dieses Duo sich daran haelt.

Max

jostes
Beiträge: 7
Registriert: 21.02.2020 22:27:13

Re: Apache, vhosts und error.logs

Beitrag von jostes » 11.03.2020 13:43:36

Hallo

Wie bereits vermutet, werden die raetselhaften Probleme durch Bots ausgeloest. Allerdings ging es definitiv nicht um AhrefsBot, der abstellbar ist, auch nicht um SemrushBot, bei dem es mir nicht gelingt, ihn abzustellen. Was auch immer ich bei SemrushBot versuche, es wird ignoriert!

Nach meinem aktuellen Kenntnisstand wurden und werden die beschriebenen Probleme durch Mozilla/5.0 und/oder DotBot/1.1 ausgeloest:

216.244.66.202 - - [10/Mar/2020:08:45:26 +0100] "GET /cgi-bin/disco/errorlog.cgi?action=browse&log=www.akazien-verlag.de_error&size=0 HTTP/1.1" 200 4883 "-" "Mozilla/5.0 (compatible; DotBot/1.1; http://www.opensiteexplorer.org/dotbot, help@moz.com)" (Quelle: apache2/access.log)

"216.244.66.202 - - [11/Mar/2020:09:15:28 +0100] "GET /cgi-bin/disco/errorlog.cgi?action=browse&log=www.optimismusbarometer.de_error&size=0 HTTP/1.1" 200 4888 "-" "Mozilla/5.0 (compatible; DotBot/1.1; http://www.opensiteexplorer.org/dotbot, help@moz.com)" (Quelle: apache2/access.log)

Ein Vhost akazien-verlag.de existiert auf dem Server, aber kein log file www.akazien-verlag.de_error; ein Vhost optimismusbarometer.de existiert nicht auf diesem Server. Gut waere eine Moeglichkeit, dem einen oder dem anderen Bot mitzuteilen, dass er seine Datenbank doch bitte hin und wieder aktualisieren soll. Mit dem sehr freundlichen und hilfsbereiten Personal von Ahrefs hatte ich zum Thema eine ermuedende Diskussion, ohne dass sich dort etwas geaendert haette. Darum habe ich AhrefsBot bis auf weiteres deaktiviert, auch weil Ahrefs bei einem Vhost geradezu Amok gelaufen ist.

Nun versuche ich Mozilla/5.0 und DotBot/1.1 abzuschalten, bin aber unsicher, wie das erfolgen muss. Teils werden dafuer ganze Romane geschrieben, teils ein spartanischer Vermerk (User-agent: dotbot \ Disallow: /). Bei Ahrefs und anderen findet sich ein freundlicher Hinweis, wie das erfolgen soll, bei anderen wie Mozilla/5.0 habe ich vergeblich gesucht, wie der Eintrag in die robots.txt (genau!) lauten sollte.

Max

Benutzeravatar
mig
Beiträge: 152
Registriert: 26.02.2003 13:21:58
Wohnort: wien
Kontaktdaten:

Re: Apache, vhosts und error.logs

Beitrag von mig » 12.03.2020 13:17:16

Hi

Hab dazu folgenden Link in meinen Wiki, und sowohl beruflich und privat schon verwendet:
https://www.buildersociety.com/threads/ ... ated.1898/

LG
Michael

jostes
Beiträge: 7
Registriert: 21.02.2020 22:27:13

Re: Apache, vhosts und error.logs

Beitrag von jostes » 12.03.2020 14:56:49

Michael

Danke fuer den Hinweis. Danach scheinen meine Eintraege in robots.txt also ok!
Mal schauen, ob sich die Nervensaegen damit abschalten lassen oder eben nicht.

Das dauert immer einige Zeit, bis das sichtbar wird ...

Max

jostes
Beiträge: 7
Registriert: 21.02.2020 22:27:13

Re: Apache, vhosts und error.logs

Beitrag von jostes » 06.04.2020 10:59:49

Zum aktuellen Stand

Die erwaehnten Fehlermeldungen waren wahrscheinlich (!) das Ergebnis fehlerhafter Indexierung und nicht aktualisierter Indexierung der Suchmaschinen. Teilweise fanden sich einige dieser voellig abwegigen Links zudem noch auf verschiedenen Websites, die beim Aufruf der error.logs nicht vorhandener vhosts eben auch einen Eintrag in das /var/log/apache2/error.log zur Folge hatten.

Weil ich die wahrscheinlich (!) suspekten Bots nicht vollstaendig sperren konnte (Bei AhrefsBot ist das sofort erfolgt, bei dotbot und SemrushBot scheinbar mit dem Quartalswechsel, bei mozilla/5 waren alle Versuche bisher komplett ergebnislos), habe ich die fehlerhaft indexierten Seiten mit Disallow gesperrt, den Aufruf der error.logs nicht vorhandener vhosts mit ein paar Scriptzeilen abgefangen und umgeleitet.

Seitdem sind im error.log des Apache2 keine der beschriebenen unverstaendlichen Fehlermeldungen mehr vorhanden.

Falls es jemand gelungen ist, mozilla/5 erfolgreich zu sperren, lass mich bitte wissen, wie das moeglich ist.

Max

Antworten