Gast: robots.txt

Beitrag lesen

Guten Tag,
kann ich mit folgender Angabe in robots.txt den Zugriff der Bots auf
a l l e   meine Unterverzeichnisse verhindern?

Disallow: /*/

Kann ich die Verhaltensweise der Bots selbst testen/feststellen?

Danke für Ihre Hilfe!