Robots.txt bestimmtes Verzeichnis ausschließen

  • Servus Leute, ich muss mal wieder stören... und zwar möchte ich ein bestimmtes Verzechnis mithilfe der robots.txt vor Crawlern blocken.

    Google habe ich bemüht aber nichts zu meinem speziellen Fall gefunden.

    Ich möchte folgendes Verzeichnis ausschließen: /autos/
    Folgendes soll aber noch indexiert werden können: /autos/[COLOR=#ff0000]porsche[/COLOR]/

    Suchmaschinen sollen gehindert werden folgende URL in den Index zu nehmen: http://www.example.com/autos/

    So welche URLs sollen aber weiterhin indexiert werden: http://www.example.com/autos/porsche/

    Wenn ich:

    Code
    User-agent: *
    Disallow: /autos/

    in die robots.txt setze, werden doch auch URLs wie /autos/porsche/ gesperrt, oder nich?

    Würde mich über Hilfe freuen! :)

    • Anzeige

    Hallo!

    Wenn du gerade an deiner Website arbeitest oder dein aktuelles Hosting überdenkst: Wir betreiben mit NetzLiving eine Hosting-Plattform, die speziell auf Performance, Sicherheit und einfache Verwaltung ausgelegt ist.

    • ✔️ Schnelle Ladezeiten (optimiert für WordPress & Co.)
    • ✔️ Deutsche Server & DSGVO-konform
    • ✔️ Persönlicher Support (kein 0815-Ticket-System)

    Mehr erfahren


  • Ich möchte folgendes Verzeichnis ausschließen: /autos/
    Folgendes soll aber noch indexiert werden können: /autos/[COLOR=#ff0000]porsche[/COLOR]/

    nö - diese können die Bots leider nicht - alles in dem Verzeichnis /autos/ wird nicht berücksichtigt - somit auch das Verzeichnis mit der genannte Marke.

    Mit offenen Augen träumen

Jetzt mitmachen!

Sie haben noch kein Benutzerkonto auf unserer Seite? Registrieren Sie sich kostenlos und nehmen Sie an unserer Community teil!