Hallo,
bei mir wird http://www.domain.tld/feed/ in den Suchmaschinen angezeigt. Eine weniger schöne Sache. Also mit robots.txt ausschließen. Ich bin mir bloß in diesem Fall über die Syntax nicht im klaren. So wie diese Datei als URL erscheint, ist es Verzeichnis, aber es ist de facto eine Seite.
Jetzt hat google und vermutlich auch andere Dienste spezielle Verzeichnisse für blogs. Wie gehen die mit der robots.txt um. Erreichen will ich suchmaschinen-bot dürfen nicht rein, blogbots schon. Wie schreibt man das am besten.
GS
Jetzt mitmachen!
Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!