baiduspider
百度发布公告:Baiduspider针对移动抓取user agent(以下简称ua)进行了升级,与PC端的抓取ua做到版本统一,均称为baiduspider/2.0。移动ua和pc ua详情如下:
新版移动ua:
Mozilla/5.0 (linux;u;Android 4.2.2;zh-cn;)
APPleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3
(compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
PC ua:
Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
如果robots封禁agent是Baiduspider,会对PC和移动同时生效。
有些代码适配站点(同一个url,PC ua打开的时候是PC页,移动ua打开的时候是移动页),通过设置robots的agent封禁达到只让移动Baiduspider抓取的目的,但由于 PC和移动Baiduspider的agent都是Baiduspider,所以这种方法不可取。
之前通过“+http://www.baidu.com/search/spider.html”进行识别的网站需要修改识别方式,新的正确的识别Baiduspider移动ua的方法有:
1. 通过关键词“Android”或者“Mobile”来进行识别,判断为移动访问或者抓取。
2. 通过关键词“Baiduspider/2.0”,判断为百度爬虫。
相关阅读
过去一年,网红城市上扬的旅游数据已经证明了抖音在目的地营销上的强大势能。当抖音凭借其旅游内容的庞大流量切入交易会怎样?
媒体监测报告通常包含丰富的信息,可以帮助公司应对快速变化的市场,同时发现机遇和问题。可惜的是,这些信息经常躺在公共关系和传
从普通运营升级为高级运营,擅长向上管理是必需的能力。背景平时跟做运营的朋友聊天时,都离不开对老板、领导、公司的吐槽。“他总是
为什么我刚做运营的时候,没有看到这篇文章???一直以来就留意到运营新人在询问运营困惑时,经常会就表层问题就行提问,比如:“哪些渠道用户
升级一:店铺来源新增引导商品效果,流量分布更清晰访问路径:生意参谋-专题工具-流量纵横-店铺来源-某个来源-商品效果店铺的流量来自哪些渠