Hallo.
Bevor ich das Problem beschreibe erstmal vorweg,dass wir am Feedreader nicht verändert haben und auch mit der robots.txt nichts angestellt haben.
Wir haben das Plug In "Wassup" und vor ca 6 Tagen begann es.
Ich schaute mit so die Statistik an und sah einen Eintrag. Wir haben auf unserem Blog mehr als einen Autor registriert. Zugriffe beschränkt auf Beitrag einreichen aber nicht Publizieren.
Dieser Autor rief an diesem Tag unseren Blog auf und sekunden später die robots.txt.
Ab diesem Moment registriert Wassup einen "ENORMEN" anstieg an Anfragen von allen möglich Suchmachinen die alle die robots.txt aufrufen. Bisher geschah dies maximal 5 mal am Tag . Jetzt 50-80 Mal am Tag. Einige Suchmachinen Bots kommen sogar mehr als 1 mal pro Minute und fragen nach dieser Datei.
Wir benutzen ein Plug In um eine Sitemap zu erzeugen, dadurch ist unsere robots.txt ja ersetzt worden durch eine Virtuelle robots.txt. Was aber seit Februar kein Problem darstellte.
So, nun seit ca 3 Tagen passiert das gleiche mit unserem RSS FEED.
Alle möglich FeedReader Bots kommen am Tag bis zu 50 mal an und fragen den RSS Feed ab. Auch wie bei der robots.txt mehr als 1 mal die Minute.
Der Feed wurde sonst wie auch die robots.txt maximal 5-10 mal am Tag aufgerufen. Jetzt wie gesagt das 10 fache.
Die Bots drängeln und schubsen sich förmlich um ja der erste zu sein um die 2 sachen zu Spidern. So macht es den Eindruck.
Ich werde aus der ganzen Sache nicht schlau. Und beginne mir Gedanken zu machen.
Das einzige was sich am gesamten geändert hat, unsere Webhoster hatte am 27.5.2010 einen Serverumzug. Mehr nicht.
Und einen Tag später begann das mit der robots.txt und 2 Tage später das mit dem Feed.
Robots.txt und auch der Feed funktionieren offensichtlich .
Google Webmaster Tool zeigt mir allerdings an das am 27.05 die robots.txt nicht erreichbar war und zeigte ca 32 Fehler auf.
Allerdings hörten die Fehler auf am 29.5. :und bis heute zeigt mir Google Analytics und Webmaster Tools nichts ungewöhnliches an.
Wer mal schauen möchte hier ist die Adresse zu unserem Blog:
gruß