我发现很多百度蜘蛛IP不带蜘蛛UA

66次阅读

共计 319 个字符,预计需要花费 1 分钟才能阅读完成。

完全不按套路来啊

网友回复:

注册 你确定是百度蜘蛛的 IP?

zhongziso 你是百度你也这样

Do. 基本确定啊。正常用户看小说会一页一页往下翻嘛。爬虫就不会这样了

ela 你这样确认不准确

zhongziso 百度蜘蛛要看 IP 地址,除了北京和山西其他都是假的

ela 所有搜索引擎都会这招, 会模拟用户访问, 看看不同 ua 和 referer 页面会不会有变化. 关键很多 ua 会跟垃圾爬虫的 ua 重复, 比如: SM-G900P, 搜狗就会用. 也有别的.

委员 你不认为是别人的爬虫?

Do. 没错。

zhongziso 假蜘蛛吧 发个 IP 看看

注册 亲测, 禁止这些对权重没有任何影响. 比如我就把 SM-G900P, 和 andorid 5 以下的全给禁了. 看了影响心情.

注册 已发了

正文完
 0