Crawler-Direktiven sind Anweisungen an Suchmaschinen-Bots, wie sie eine Website abrufen und verarbeiten sollen. Der Begriff ist ein SEO-Sammelbegriff und kommt in Googles Dokumentation nicht vor. Üblicherweise zählen robots.txt, das Robots-Meta-Tag und der HTTP-Header X-Robots-Tag dazu. Manche Lexika zählen auch den Canonical-Tag dazu, Google beschreibt ihn als starkes Signal.
Welche Direktiven gibt es?
Die robots.txt legt fest, welche URLs ein Crawler abrufen darf. Google beschreibt sie als Mittel, den Crawl-Traffic zu steuern. Seiten aus Google heraushalten kann sie laut Google nicht, denn eine gesperrte URL kann trotzdem in den Ergebnissen stehen, wenn andere Seiten auf sie verlinken.
Das Robots-Meta-Tag im <head> und der X-Robots-Tag im Header steuern Indexierung und Darstellung. Gültige Werte sind unter anderem noindex, nofollow, nosnippet, none und max-snippet. Der Header eignet sich auch für PDFs und Bilder.
| Mittel | Verhindert Crawling? | Hält die URL aus der Suche? | Was Google dazu schreibt | Typischer Einsatz |
|---|---|---|---|---|
robots.txt Disallow | ja | nein, die URL kann ohne Inhalt indexiert werden, wenn andere Seiten auf sie verlinken | dient vor allem dazu, den Server nicht mit Anfragen zu überlasten; kein Mittel, eine Seite aus Google herauszuhalten | Crawler-Last begrenzen, Bereiche vom Abruf ausnehmen |
noindex im Robots-Meta-Tag | nein, Google muss die Seite abrufen können | ja | wirkt nur, wenn die Seite nicht per robots.txt gesperrt ist; Google entfernt die Seite dann, auch wenn andere Websites auf sie verlinken | HTML-Seiten, die erreichbar bleiben, aber nicht in den Suchergebnissen erscheinen sollen |
noindex im HTTP-Header X-Robots-Tag | nein, Google muss die URL abrufen können | ja | jede Regel des Robots-Meta-Tags ist auch als Header möglich; gleiche Voraussetzung wie beim Meta-Tag | Dateien ohne HTML-Head wie PDFs, Bilder oder Videos |
rel="canonical" | nein | nicht direkt; starkes Signal dafür, welche von mehreren gleichen URLs kanonisch wird | hilft, Signale wie Links auf die bevorzugte URL zu bündeln; für die Kanonisierung weder robots.txt noch noindex verwenden | Duplikate und sehr ähnliche Seiten, etwa durch Parameter |
| Statuscode 410 (oder 404) | nein, Google ruft die URL aber nach und nach seltener ab | ja, eine bereits indexierte URL wird entfernt | behandelt 404 und 410 gleich | Seite dauerhaft entfernt, es gibt keinen Ersatz |
| Passwortschutz (Login) | ja, Crawler erreichen die Inhalte nicht | ja | einer der Wege, die Google für das dauerhafte Entfernen nennt; berechtigte Nutzer sehen die Seite, Crawler nicht | Private oder vertrauliche Inhalte |
| Search Console: Entfernungen | nein, Google kann die URL weiter crawlen | blendet die URL für etwa sechs Monate aus den Suchergebnissen aus | nur vorübergehend; dauerhaft wirken 404/410, Passwortschutz oder noindex | Eilfall, bis eine dauerhafte Maßnahme greift |
robots.txt und noindex schließen sich gegenseitig aus. Ist eine URL per robots.txt gesperrt, liest Google das noindex nie, und die URL kann trotzdem in den Ergebnissen erscheinen. noindex in der robots.txt selbst unterstützt Google nicht. Quellen: Google Search Central: Introduction to robots.txt (last updated 2025-12-10); Google Search Central: Block Search indexing with noindex (last updated 2025-12-10); Google Search Central: Robots meta tag, data-nosnippet, and X-Robots-Tag specifications (last updated 2026-03-24); Google Search Central: How to specify a canonical URL (last updated 2026-07-10); Google Crawling Infrastructure: How HTTP status codes affect Google's crawlers (last updated 2026-02-04); Google Search Central: Remove information from Google (last updated 2025-12-10); Search Console Help: Removals and SafeSearch reports tool. Stand: .
Wechselwirkung
Ist eine Seite per robots.txt gesperrt, kann Google ein noindex darauf nicht lesen. Die Anweisung wird ignoriert.
Beispiel
# robots.txt
User-agent: *
Disallow: /warenkorb/
<meta name="robots" content="noindex, nofollow">
Quellen
- Intro to robots.txt – Google Search Centraldevelopers.google.com
- Robots meta tag, data-nosnippet, and X-Robots-Tag specifications – Google Search Centraldevelopers.google.com
- Kanonische URL angeben und Duplikate zusammenfassen – Google Search Centraldevelopers.google.com
Stand: