Mike Schnoor
  • Start
  • LinkedIn
  • Blog (Archiv)
  • Über mich
    • Publikationen
    • Standpunkte
  • Menü Menü

Schlagwortarchiv für: Robot

Yahoo’s Slurp-Bot: Official Tips

Blogkultur

The search-engine company Yahoo released some useful tips and tricks on how to limit the sometimes aggressive behavior of their spider robot „Slurp“. In the previous months, this particular robot became one of the most annoying and invading robots of my Blogspirit account. I already used the suggested method of including the „crawl delay“ option in meta tags, tough the robot penetrates this small line of defense still. Dave Simpson suggests to enable Gzipped Files and Smart Caching to aid the process of restricting the robot’s aggressiveness. As I tested my subdomain with Netcraft, I was informed it’s Apache was using the mod_gzip/1.3.26.1a already. Since most image files for the HTML layout and formatting reside on my own server, the smart caching is little to worry about. Overall, Slurp is already restricted in it’s behavior but still very aggressive. I will try to analyse the whole situation in a near future once I’m done with the final tests.

12. Februar 2005/von Mike Schnoor
https://mikeschnoor.com/upload/2026/06/mikeschnoor-logo-1.webp 0 0 Mike Schnoor https://mikeschnoor.com/upload/2026/06/mikeschnoor-logo-1.webp Mike Schnoor2005-02-12 09:55:592013-11-20 07:56:53Yahoo’s Slurp-Bot: Official Tips

Suche

Search Search

Über mich

Mike Schnoor ist Head of Marketing bei kernpunkt und arbeitet seit über 25 Jahren in der Digitalbranche. Dieses Blogarchiv bündelt ältere Beiträge zu Digitalisierung, Marketing, Kommunikation und Digitalwirtschaft. Aktuelle Inhalte erscheinen vor allem auf LinkedIn und im kernpunkt Magazin.

© Copyright 1997-2026 Mike Schnoor. Alle Rechte vorbehalten.
  • Link zu Instagram
  • Link zu LinkedIn
  • Link zu Rss dieser Seite
  • Impressum
  • Datenschutz
Nach oben scrollen Nach oben scrollen Nach oben scrollen

Einwilligung zur Datenerhebung und zur Nutzung von Cookies: Diese Internetseite verwendet Cookies. Cookies sind kleine Textinformationen, die über Browser im Endgerät als Datei gespeichert werden. Cookies stellen keine schadhaften Dateien dar, sondern erlauben User Interaktionen. Weitere Informationen entnehmen Sie bitte unserem Datenschutzhinweis. Impressum

Einwilligung nicht geben.Einwilligung jetzt ändern.Alle Cookies akzeptieren.

Einwilligung zur Datenerhebung und zur Nutzung von Cookies



Wie wir mit Cookies umgehen

Diese Internetseite verwendet Cookies. Cookies sind kleine Textinformationen, die über Browser im Endgerät als Datei gespeichert werden. Cookies stellen keine schadhaften Dateien dar, sondern erlauben User Interaktionen.

Weitere Informationen entnehmen Sie bitte unserem Datenschutzhinweis.

Einstellungen übernehmenNur Benachrichtigung ausblenden