Robots.txt und FeedReader Bots

  • Hallo.
    Bevor ich das Problem beschreibe erstmal vorweg,dass wir am Feedreader nicht verändert haben und auch mit der robots.txt nichts angestellt haben.

    Wir haben das Plug In "Wassup" und vor ca 6 Tagen begann es.
    Ich schaute mit so die Statistik an und sah einen Eintrag. Wir haben auf unserem Blog mehr als einen Autor registriert. Zugriffe beschränkt auf Beitrag einreichen aber nicht Publizieren.
    Dieser Autor rief an diesem Tag unseren Blog auf und sekunden später die robots.txt.
    Ab diesem Moment registriert Wassup einen "ENORMEN" anstieg an Anfragen von allen möglich Suchmachinen die alle die robots.txt aufrufen. Bisher geschah dies maximal 5 mal am Tag . Jetzt 50-80 Mal am Tag. Einige Suchmachinen Bots kommen sogar mehr als 1 mal pro Minute und fragen nach dieser Datei.
    Wir benutzen ein Plug In um eine Sitemap zu erzeugen, dadurch ist unsere robots.txt ja ersetzt worden durch eine Virtuelle robots.txt. Was aber seit Februar kein Problem darstellte.
    So, nun seit ca 3 Tagen passiert das gleiche mit unserem RSS FEED.
    Alle möglich FeedReader Bots kommen am Tag bis zu 50 mal an und fragen den RSS Feed ab. Auch wie bei der robots.txt mehr als 1 mal die Minute.
    Der Feed wurde sonst wie auch die robots.txt maximal 5-10 mal am Tag aufgerufen. Jetzt wie gesagt das 10 fache.
    Die Bots drängeln und schubsen sich förmlich um ja der erste zu sein um die 2 sachen zu Spidern. So macht es den Eindruck.

    Ich werde aus der ganzen Sache nicht schlau. Und beginne mir Gedanken zu machen.

    Das einzige was sich am gesamten geändert hat, unsere Webhoster hatte am 27.5.2010 einen Serverumzug. Mehr nicht.
    Und einen Tag später begann das mit der robots.txt und 2 Tage später das mit dem Feed.
    Robots.txt und auch der Feed funktionieren offensichtlich .

    Google Webmaster Tool zeigt mir allerdings an das am 27.05 die robots.txt nicht erreichbar war und zeigte ca 32 Fehler auf.
    Allerdings hörten die Fehler auf am 29.5. :und bis heute zeigt mir Google Analytics und Webmaster Tools nichts ungewöhnliches an.

    Wer mal schauen möchte hier ist die Adresse zu unserem Blog:

    http://www.gamersplatform.de

    gruß

    • Anzeige

    Hallo!

    Wenn du gerade an deiner Website arbeitest oder dein aktuelles Hosting überdenkst: Wir betreiben mit NetzLiving eine Hosting-Plattform, die speziell auf Performance, Sicherheit und einfache Verwaltung ausgelegt ist.

    • ✔️ Schnelle Ladezeiten (optimiert für WordPress & Co.)
    • ✔️ Deutsche Server & DSGVO-konform
    • ✔️ Persönlicher Support (kein 0815-Ticket-System)

    Mehr erfahren

  • Hallo.
    Das Problem besteht immer noch.
    Gibt es hier keinen der mir mal auf meine Frage Antworten kann?

    Warum wird unsere Robots.txt 80 mal am Tag aufgerufen ????
    Warum wird der Feed genau so oft aufgerufen?
    Sonst immer nur 5 mal täglich.

    Währe nett wenn mal jemand dazu etwas sagen könnte.
    Sonst macht es einen seltsamen Eindruck wenn eine Frage gänzlich unbeantwortet bleibt.

    Schliesslich denk ich mal, ist hier auch ein Support zu gange..

  • kann es sein, dass die robots.txt verändert wurde? Und damir meine ich nicht von Euch...Würde sie löschen, 2 -3 Tage warten und mal sehen, wie sich das Ganze entwickelt. Sieht mir nach nem "Ruf nach draußen" aus.

    Poste doch mal jene robots.txt

  • User-agent: *
    Disallow:

    Sitemap: http://gamersplatform.de/sitemap.xml


    Danke für deine Antwort.
    Aaaalsooo.... folgendes....
    Wir benutzen das Plugin
    [size=12]XML Sitemap Generator für WordPress 3.2.4.[/SIZE]

    Dieses haben wir seit Februar diesen Jahres installiert und auch Aktiv.
    In den Einstellungen ist der Satz zu finden:

    • Die Sitemap zur virtuellen robots hinzufügen.
      Es wird die von WordPress generierte virtuelle robots.txt verwendet. Es dark keine robots.txt Datei im Blog Verzeichnis liegen!


    Das ist auch von Anfang an markiert.
    Bis vor einer Woche gab es auch keine Probleme. Wie gesagt, die Robots.txt wurde bis vor ca 1 Woche noch maximal 5-10 mal täglich aufgerufen.
    Seit dem das Plugin "WASSUP" einen Aufruf unseres Blogs von einem Leser registriert hatte , der erst die Page aufrief und 4 sekunden später die Robots.txt, ging das alles los.
    Von diesem Moment an bis heute kommen Googlebot und Co. bis zu 80 mal am Tag und fragen diese datei ab oder rufen sie auf.
    Zusätzlich zu den fast 80 mal am Tag auch mehrmals hintereinander. Also pro Bot 2-3 abfragen innerhalb von 30 sekunden.

    3 Tage später begann das gleiche mit unserem RSS Feed.

    Ich kann mir das nach wie vor nicht erklären.

  • dann deaktiviere das sitemap plugin oder besser: deaktivieren und löschen. Zurückholen kannst Du es später ja jederzeit vom Anbieter. Mal sehen, was passiert.

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!