牛牛在线工具

Swiftbot

收录 76 种搜索引擎蜘蛛(爬虫)的 UserAgent 与说明。

Swiftbot

Swift蜘蛛

Swiftype是一个为你的网站定制的搜索引擎。它结合了 “最好的搜索技术、算法、内容摄取框架、客户端和分析工具”。 Swiftype是一个可以为你的网站搜索提供动力的软件 如果你有一个有许多页面的复杂网站,Swiftype提供了一个有用的界面,为你的所有页面编目和索引。 Swiftbot是Swiftype的网络爬行器。然而,与其他机器人不同,Swiftbot只抓取他们的客户要求的网站。 不过对于国内网站来说不会带来什么流量,可以选择robots.txt协议禁止。 User-agent: Swiftbot Disallow: / 如果还是禁止不了,可以选择nginx规则禁止访问,如下: if ($http_user_agent ~* "Swiftbot") { return 403; }