牛牛在线工具

360Spider

收录 76 种搜索引擎蜘蛛(爬虫)的 UserAgent 与说明。

360Spider

360蜘蛛

360Spider,它是一个很“勤奋抓爬”的蜘蛛。 不想让360搜索抓取,可以选择robots.txt协议禁止。 User-agent: 360Spider Disallow: / 如果还是禁止不了,可以选择nginx规则禁止访问,如下: if ($http_user_agent ~* "360Spider") { return 403; }