Google-CloudVertexBot ist ein Crawler von Google, der Websites im Auftrag ihrer Betreiber abruft, damit diese Inhalte in Vertex-AI-Agenten genutzt werden können.
Auf einen Blick
- Betreiber
- Zweck
- Crawls auf Anfrage der Seitenbetreiber für Vertex AI Agents
- robots.txt-Token
Google-CloudVertexBot,Googlebot- Beachtet robots.txt
- ja, Googles gängige Crawler beachten robots.txt bei automatischen Crawls
- IP-Liste
- ja (
common-crawlers.json)
Stand:
Wofür dient Google-CloudVertexBot?
Laut Google handelt es sich um Crawls auf Anfrage der Seitenbetreiber, die dem Aufbau von Vertex AI Agents dienen. Gemeint sind Agenten, die Unternehmen mit Googles Cloud-Produkt Vertex AI Agent Builder entwickeln. Nach dieser Beschreibung kommt der Bot nur bei Crawls zum Einsatz, die Seitenbetreiber anfragen.
Google schreibt dazu, der Crawler habe keine Auswirkung auf die Google Suche und andere Produkte. Er gehört nicht zu Googlebot und ist auch nicht mit Google-Extended zu verwechseln.
| Bot | Betreiber | Zweck | robots.txt-Token | robots.txt laut Betreiber | IP-Liste veröffentlicht? |
|---|---|---|---|---|---|
| Google-Extended | Steuerung von Gemini-Training und Grounding (kein eigener Crawler) | Google-Extended | reines robots.txt-Token; abgerufen wird mit den bestehenden Google-Crawlern | entfällt (kein eigener User-Agent) | |
| GPTBot | OpenAI | Training | GPTBot | Sperre heißt laut OpenAI: Inhalte nicht für das Training von Basismodellen nutzen | ja (openai.) |
| OAI-SearchBot | OpenAI | Suche (ChatGPT) | OAI-SearchBot | gesperrte Websites erscheinen laut OpenAI nicht in ChatGPT-Suchantworten | ja (openai.) |
| ChatGPT-User | OpenAI | Nutzerabruf | ChatGPT-User | robots.txt-Regeln gelten laut OpenAI möglicherweise nicht (Abruf durch Nutzer ausgelöst) | ja (openai.) |
| ClaudeBot | Anthropic | Training | ClaudeBot | ja, laut Anthropic beachten seine Bots die robots.txt | ja (claude.) |
| Claude-SearchBot | Anthropic | Suche (Claude) | Claude-SearchBot | ja, laut Anthropic beachten seine Bots die robots.txt | ja (claude.) |
| PerplexityBot | Perplexity | Suche (Perplexity), laut Perplexity kein Training | PerplexityBot | über robots.txt steuerbar; eine ausdrückliche Befolgungszusage fehlt in der Doku | ja (perplexity.) |
| Applebot-Extended | Apple | Steuerung des KI-Trainings (crawlt laut Apple nicht) | Applebot-Extended | reines robots.txt-Token für bereits gecrawlte Inhalte | entfällt (kein eigener Crawler) |
| CCBot | Common Crawl | offenes Web-Archiv | CCBot | per robots.txt sperrbar laut Common Crawl | ja (index.) |
| Meta-ExternalAgent | Meta | Training von KI-Basismodellen, Produktverbesserung | meta-externalagent | per robots.txt sperrbar laut Meta | keine Angabe des Betreibers |
Auswahl von zehn KI-Bots großer Anbieter, keine vollständige Liste. Alle Werte stammen aus der Dokumentation des jeweiligen Betreibers (Stand 8. Oktober 2026). Ob ein Bot sich tatsächlich an die robots.txt hält, sagt die Tabelle nicht; sie gibt nur die Angaben der Betreiber wieder. Ein User-Agent lässt sich fälschen, echte Zugriffe erkennt man über die veröffentlichten IP-Listen oder Reverse-DNS. Quellen: OpenAI: Overview of OpenAI Crawlers; Anthropic: Does Anthropic crawl data from the web, and how can site owners block the crawler? (updated 2026-04-07); Perplexity: Perplexity Crawlers; Google: Google's common crawlers (last updated 2026-07-14); Google: Overview of Google crawlers and fetchers (last updated 2026-06-12); Google: Verifying Google crawlers and fetchers (IP range files); Apple: About Applebot (2026-09-04); Meta: Meta Web Crawlers; Common Crawl: CCBot. Stand: .
Welche robots.txt-Tokens gelten?
Google nennt zwei Tokens, Google-CloudVertexBot und Googlebot. Wer Regeln speziell für diesen Bot festlegen will, nutzt vermutlich das erste Token (Einschätzung).
Beispiel
User-agent: Google-CloudVertexBot
Disallow: /intern/
Die Regel schließt /intern/ für diesen Bot aus. Googlebot ist davon nicht betroffen.
Häufige Fragen
Crawlt Google-CloudVertexBot meine Website von selbst? Nach Googles Beschreibung nur auf Anfrage der Seitenbetreiber.
Quellen
- Google Common Crawlers (Google-CloudVertexBot) – Google Search Centraldevelopers.google.com
- Vertex AI Agent Builder: Website-Daten vorbereiten – Google Cloudcloud.google.com
Stand: