牛牛在线工具

YYSpider

收录 76 种搜索引擎蜘蛛(爬虫)的 UserAgent 与说明。

YYSpider

YY蜘蛛

据说是个人写的蜘蛛程序,指向的是 http://www.yunyun.com/spider.html,yunyun.com 目前不能访问,建议屏蔽之。 不过对于国内网站来说不会带来什么流量,可以选择robots.txt协议禁止。 User-agent: YYSpider Disallow: / 如果还是禁止不了,可以选择nginx规则禁止访问,如下: if ($http_user_agent ~* "YYSpider") { return 403; }