牛牛在线工具

MauiBot

收录 76 种搜索引擎蜘蛛(爬虫)的 UserAgent 与说明。

MauiBot

Maui蜘蛛

MauiBot 不同于其他爬虫,这个爬虫连网站都没有,UA只显示一个邮箱:”MauiBot (crawler.feedback+wc@gm ail.com)“。神奇的是这个看起来是个人爬虫,竟然遵循robots协议,算得上垃圾爬虫的一股清流。 好在遵循robots协议,可以用robots.txt协议进行禁止。 协议如下: User-agent: MauiBot Disallow: /