当我们给自己的泛目录设置仅蜘蛛抓取生成缓存的时候,我们需要模拟蜘蛛抓取测试我们的设置是否成功。
绝大部分时候我们都使用网页蜘蛛模拟抓取测试工具测试,UA不算全面,所以这里分享支持模拟更多UA的本地化的模拟蜘蛛访问站点工具。
程序说明
很多客户站点被黑客入侵并挂了搜索引擎劫持代码,只有在搜索引擎抓取站点时才会显示非法信息,平时正常浏览无法显示。
黑客的主要目的就是当搜索引擎抓取站点时显示他的非法关键字和非法地址,从而使他的站点权重增加,为他带来利益。
为了更好的处理这类似问题,(虽说主流浏览器也可模拟蜘蛛访问,但大多数用户不会设置。)写了一个小工具直接模拟蜘蛛抓取显示非法信息。
使用说明
输入网址后,可以正常访问测试,也可以在选择合适的UA后查看前段代码,或查看网站HTML源码。
支持模拟的UA
百度PC蜘蛛;
百度移动蜘蛛;
谷歌蜘蛛;
360PC蜘蛛;
360移动蜘蛛;
必应蜘蛛;
雅虎蜘蛛;
搜狗蜘蛛;
有道蜘蛛;
苹果微信;
模拟安卓;
微信模拟;
友情提示
您还可以访问www.cjzzc.com/crawl.html免费在线模拟蜘蛛抓取网站。
本站所有内容仅限用于学习和研究目的,程序仅供本地断网测试,转载请说明出处!
站群工具网 » 多UA模拟蜘蛛访问站点工具V3
站群工具网 » 多UA模拟蜘蛛访问站点工具V3