Zum Inhalt springen
← SEO-Glossar

Crawling

Crawling bezeichnet das Abrufen von Inhalten durch einen Bot, der Anfragen an die URLs einer Website sendet.

Von der Entdeckung bis zur möglichen Indexierung

URL-Entdeckung → Mögliches Crawling → Verarbeitung / Rendering → Mögliche Indexierung
Vereinfachtes Modell, keine garantierte Reihenfolge. Eine URL kann in verschiedenen Phasen ausscheiden; Entdeckung und Crawling garantieren keine Indexierung.
Textversion
  • Entdeckung der URL
  • Mögliches Crawling
  • Verarbeitung / Rendering
  • Mögliche Indexierung

So funktioniert es

Der Bot entdeckt URLs über Links und andere Signale und prüft die verfügbaren Antworten. Dieser Schritt ist von der Indexierung getrennt.

Beispiel

Beispiel: Eine neue Kategorie ist intern verlinkt, sodass der Bot sie über diesen Link entdecken kann.

Häufige Fehler

Eine gecrawlte URL ist nicht zwangsläufig indexiert.

Wie lässt sich das in der Praxis überprüfen?

Prüfen Sie in den Logs, welche URLs zu welchem Zeitpunkt angefragt wurden und welchen Status die Antworten hatten. Verifizieren Sie den Crawler, bevor Sie die Anfragen Googlebot zuschreiben. Eine URL kann über einen Link oder eine Sitemap entdeckt werden, ohne sofort abgerufen zu werden. Für erneutes Crawling gibt es keinen garantierten Zeitplan.

Unterschiede und Grenzen

Crawling ist der Abruf von Inhalten; die Indexierung ist eine Entscheidung nach deren Verarbeitung. HTTP 200 belegt eine erfolgreiche Antwort auf eine konkrete Anfrage, nicht die Aufnahme in den Index. Blockierte Ressourcen können auch das Rendering einschränken.

Offizielle Quellen

Redaktionelle Verantwortung: Martin Zhelyazkov · Gründer von Z-Consult

Aktualisiert: 5.11.2026

Für Korrekturen oder Fragen: office@z-consult.bg