浅谈百度抓取淘宝那点事
大家都知道大概是“百度有啊”上线之前,淘宝网为了避免百度恶意抓取,直接屏蔽了百度蜘蛛,也就是当时闹得沸沸扬扬的robots.txt协议 。
就算是现在打开淘宝的robots.txt协议,依然可以看到淘宝还在屏蔽百度的蜘蛛。
可是事实上真的如此么
事实证明淘宝的robots.txt文件根本对百度蜘蛛起不到任何作用。
小弟推测百度之所以这么做是因为百度考虑到战略方向的问题,因为查询了一下发现一些知名店铺在百度的排名都很不错。足以证明百度对淘宝这种店铺的重要性。更加戏曲化的是天猫网(淘宝商城)也是使用robots.txt协议的。同样屏蔽了百度蜘蛛。
还有一种可能就是淘宝网以及天猫网的权重太高了,导致了百度蜘蛛不遵循搜索引擎协议而进行的抓取。不过对于这种事情可以联想到前些日子,一淘网恶意抓取京东商城以及新蛋网等的商品数据,也是不遵循搜索引擎规则的。
直到现在京东商城等也在屏蔽一淘网的蜘蛛,
小编想说的是现在的搜索引擎为了自身利益而不遵循互联网协议的规则,是值得反思的,呼吁这种互联网大公司能在整个IT行业树立标榜。
推荐新闻
更多行业-
SEO优化价格表概述
北京网站建设公司尚品中国:seo网站优化做了一段时间了,发觉里面报价非...
2012-03-27 -
网站建设用设计吸引用户,提升网站体验效果
当然你也要知道,网站设计市场的竞争是非常巨大的。想要在网络市场占有一席...
2022-03-29 -
企业建站—如何利用搜索引擎蜘蛛提升网站知名度
很多网站会发现自己的网站已经做好优化,为何不被收录,就算收录了,为什么...
2019-03-07 -
营销型网站建设有什么特点
所谓营销型网站就是为实现某种特定的营销目标,能将营销的思想、方法和技巧...
2019-10-15 -
网站页面设计的基本准则你了解多少?
当网站信息架构设计完成后,网站设计将直接代表企业的品牌风格,网站在搜索...
2020-11-11 -
北京网站建设—如何做好智能化品牌运营方案?
随着互联网及网站建设的深入普及,移动终端已逐渐成为消费者信息的第一接口...
2018-12-05
预约专业咨询顾问沟通!
免责声明
非常感谢您访问我们的网站。在您使用本网站之前,请您仔细阅读本声明的所有条款。
1、本站部分内容来源自网络,涉及到的部分文章和图片版权属于原作者,本站转载仅供大家学习和交流,切勿用于任何商业活动。
2、本站不承担用户因使用这些资源对自己和他人造成任何形式的损失或伤害。
3、本声明未涉及的问题参见国家有关法律法规,当本声明与国家法律法规冲突时,以国家法律法规为准。
4、如果侵害了您的合法权益,请您及时与我们,我们会在第一时间删除相关内容!
联系方式:010-60259772
电子邮件:394588593@qq.com