CloudFlare 防火墙规则里开放合法 Bot 爬虫的方法。
马上创建一个“合法 Bot”的“允许”规则用上,原理其实很简单,就是凡是合法的 Bot 一律放行允许访问网站,当然考虑到现在仿冒合法 Bot 泛滥成灾的现实为了提高安全度和更加精准的拦截命中率又加了一个“And”,那就是“威胁分数”需要小于等于 10 的限制,这样下来基本上就保险了很多,具体配置截图如下:
启用这个规则后稍微等待即可发现就有实时防御数据了!
在“安全性”——“概述”里随机筛选几个记录的 IP 验证一下都是真实的搜索引擎爬虫,特别是看到都是熟悉又亲切点谷歌、必应爬虫后,真的是心情舒畅了不少,嘿嘿!
后来经过几天的实验发现还是很有必要放宽队合法 Bot 的限制的,但又不想一些无用的爬虫来频繁抓取浪费服务器负载资源就又做了简单的调整,主要有针对性的拍出些无用的爬虫:
大家可以根据自己的需要来调整运用哦!
共有 0 条评论