YouBot ist der Web-Crawler der Suchmaschine You.com. Gemeint ist hier der Bot und nicht der Forschungsroboter KUKA youBot oder andere Produkte gleichen Namens. Er durchsucht und indexiert Webseiten, aus denen die Suchergebnisse von You.com entstehen. Als robots.txt-Token dient YouBot.
Auf einen Blick
- Betreiber
- You.com
- Zweck
- Suche (Entdecken und Indexieren von Seiten)
- robots.txt-Token
YouBot- Beachtet robots.txt
- ja, inklusive
Crawl-delay; robots.txt wird 30 Minuten zwischengespeichert - IP-Liste
- IP-Bereich
68.67.112.0/24 - Doku
- You.com: YouBot
Stand:
Wie arbeitet YouBot?
You.com beschreibt YouBot als Crawler, der Seiten automatisch entdeckt und indexiert. Der User-Agent enthält YouBot/1.0, die Adresse der Dokumentation und den Zusatz env:prod. Legitime Anfragen stammen laut You.com aus dem IP-Bereich 68.67.112.0/24. Bei Problemen oder hoher Crawl-Last bietet You.com die Kontaktadresse spider@you.com an.
| Bot | Betreiber | Zweck | robots.txt-Token | robots.txt laut Betreiber | IP-Liste veröffentlicht? |
|---|---|---|---|---|---|
| Google-Extended | Steuerung von Gemini-Training und Grounding (kein eigener Crawler) | Google-Extended | reines robots.txt-Token; abgerufen wird mit den bestehenden Google-Crawlern | entfällt (kein eigener User-Agent) | |
| GPTBot | OpenAI | Training | GPTBot | Sperre heißt laut OpenAI: Inhalte nicht für das Training von Basismodellen nutzen | ja (openai.) |
| OAI-SearchBot | OpenAI | Suche (ChatGPT) | OAI-SearchBot | gesperrte Websites erscheinen laut OpenAI nicht in ChatGPT-Suchantworten | ja (openai.) |
| ChatGPT-User | OpenAI | Nutzerabruf | ChatGPT-User | robots.txt-Regeln gelten laut OpenAI möglicherweise nicht (Abruf durch Nutzer ausgelöst) | ja (openai.) |
| ClaudeBot | Anthropic | Training | ClaudeBot | ja, laut Anthropic beachten seine Bots die robots.txt | ja (claude.) |
| Claude-SearchBot | Anthropic | Suche (Claude) | Claude-SearchBot | ja, laut Anthropic beachten seine Bots die robots.txt | ja (claude.) |
| PerplexityBot | Perplexity | Suche (Perplexity), laut Perplexity kein Training | PerplexityBot | über robots.txt steuerbar; eine ausdrückliche Befolgungszusage fehlt in der Doku | ja (perplexity.) |
| Applebot-Extended | Apple | Steuerung des KI-Trainings (crawlt laut Apple nicht) | Applebot-Extended | reines robots.txt-Token für bereits gecrawlte Inhalte | entfällt (kein eigener Crawler) |
| CCBot | Common Crawl | offenes Web-Archiv | CCBot | per robots.txt sperrbar laut Common Crawl | ja (index.) |
| Meta-ExternalAgent | Meta | Training von KI-Basismodellen, Produktverbesserung | meta-externalagent | per robots.txt sperrbar laut Meta | keine Angabe des Betreibers |
Auswahl von zehn KI-Bots großer Anbieter, keine vollständige Liste. Alle Werte stammen aus der Dokumentation des jeweiligen Betreibers (Stand 8. Oktober 2026). Ob ein Bot sich tatsächlich an die robots.txt hält, sagt die Tabelle nicht; sie gibt nur die Angaben der Betreiber wieder. Ein User-Agent lässt sich fälschen, echte Zugriffe erkennt man über die veröffentlichten IP-Listen oder Reverse-DNS. Quellen: OpenAI: Overview of OpenAI Crawlers; Anthropic: Does Anthropic crawl data from the web, and how can site owners block the crawler? (updated 2026-04-07); Perplexity: Perplexity Crawlers; Google: Google's common crawlers (last updated 2026-07-14); Google: Overview of Google crawlers and fetchers (last updated 2026-06-12); Google: Verifying Google crawlers and fetchers (IP range files); Apple: About Applebot (2026-09-04); Meta: Meta Web Crawlers; Common Crawl: CCBot. Stand: .
Wie lässt sich YouBot steuern?
YouBot beachtet robots.txt-Anweisungen für seinen User-Agent und das Crawl-delay. Er speichert die robots.txt 30 Minuten zwischen. Änderungen können daher bis zu einer halben Stunde brauchen, bis sie wirken.
Beispiel
User-agent: YouBot
Crawl-delay: 10
Disallow: /intern/
Die Regel setzt für den Crawler ein Crawl-delay von 10 und schließt das Verzeichnis /intern/ aus.
Häufige Fehler
- Änderung sofort erwarten. Laut You.com speichert YouBot die robots.txt 30 Minuten zwischen. Eine Änderung kann bis zu einer halben Stunde brauchen.
- Jeden Zugriff mit YouBot-Kennung für echt halten. You.com nennt den IP-Bereich
68.67.112.0/24und Reverse-DNS-Namen nach dem Musteryoubot-<IP>.search.you.com. Ein Zugriff, der sich als YouBot ausgibt, aber nicht aus diesem Bereich stammt, passt nicht zur Doku.
Häufige Fragen
Ist YouBot ein KI-Crawler? YouBot speist die Suche von You.com. You.com bietet auch KI-Antworten an, der Zweck des Crawlers ist laut Doku aber die Suche.
Wie schnell wirkt eine Änderung in der robots.txt? Laut You.com nach spätestens 30 Minuten.
Quellen
Stand: