事实上，大家的系统日志中，有很多的baiduspider是别人掩藏的，要想处理这个问题。大家务必在认证baiduspider真假上狠下功夫，本文详尽的详细介绍了网络爬虫的识别方法。

我们在依据网站流量统计剖析百度搜索引擎搜索引擎蜘蛛爬取网页页面的纪录时，事实上许多 网站全是有一些掩藏称baiduspider的来访者的。这种数据信息会比较严重危害大家对日志分析系统后的分辨。

这种来访者，怎么会掩藏为baiduspider来浏览大家的网址呢？最典型性的便是收集你內容的那些人。她们了解许多 专用工具是可以见到什么ip浏览网址的过多的。比如某一个ip今日浏览你网址一万次，那正常吗？肯定是异常的。但他如果baiduspdier呢？呵呵呵，那么就一切正常了。

Mozilla/5.0(compatible;Baiduspider/2.0; http://www.baidu.com/search/spider.html）

Mozilla/5.0(compatible;Baiduspider-render/2.0; http://www.baidu.com/search/spider.html)

Mozilla/5.0(Linux;u;Android4.2.2;zh-cn;)AppleWebKit/534.46(KHTML,likeGecko)Version/5.1MobileSafari/10600.6.3(compatible;Baiduspider/2.0; http://www.baidu.com/search/spider.html)

Mozilla/5.0(iPhone;CPUiPhoneOS9_1likeMacOSX)AppleWe唐山市小程序bKit/601.1.46(KHTML,likeGecko)Version/9.0Mobile/13B143Safari/601.1(compatible;Baiduspider-render/2.0; http://www.baidu.com/search/spider.html)

以上是包括了百度搜索的基本网络爬虫，和3D渲染网络爬虫render的。这两个网络爬虫的差别符早已用红色字体标出了。

能够 根据DNS查取方法来处理这个问题。依据服务平台不一样认证方式不一样，如linux/windows/os三种服务平台下的认证方式各自以下：

1、在linux服务平台下，您能够 应用hostip命令反解ip来分辨是不是来源于Baiduspider的爬取。Baiduspider的hostname以.baidu.com或.baidu.jp的文件格式取名，非.baidu.com或.baidu.jp即是假冒。

2、在windows服务平台或是IBMOS/2服务平台下，您能够 应用nslookupip命令反解ip来分辨是不是来源于Baiduspider的爬取。开启指令CPU键入nslookupxxx.xxx.xxx.xxx（IP地址）就能分析ip，来分辨是不是来源于Baiduspider的爬取，Baiduspider的hostname以.baidu.com或.baidu.jp的文件格式取名，非.baidu.com或.baidu.jp即是假冒。

3、在macos服务平台下，您能够 应用dig命令反解ip来分辨是不是来源于Baiduspider的爬取。开启指令CPU键入digxxx.xxx.xxx.xxx（IP地址）就能分析ip，来分辨是不是来源于Baiduspider的爬取，Baiduspider的hostname以.baidu.com或.baidu.jp的文件格式取名，非.baidu.com或.baidu.jp即是假冒。

转截： 十分热烈欢迎各位朋友们发送到站长或是微信朋友圈，但转截请表明文章内容出處“黎苍松SEOblog”。

全文详细地址： http://www.alitaohuo.com/SEObaike/SEOrumenjiaocheng/2005.html