昊天SEO

怎么让百度更好的抓取和识别你的网站

互联网信息爆发式增长,如何有效的获取并利用这些信息是百度搜索引擎工作中的首要环节。数据抓取系统作为整个搜索系统中的上游,是百度搜索的重点,也是网站优化的重要突破口。Spider从一些重要的种子 URL开始,通过页面上的超链接关系,不断的发现新URL并抓取,尽最大可能抓取到更多的有价值网页。

所以我们在进行网站优化与运营时,首先就要规划设计好网站的内容结构与链接结构,能够让百度搜索引擎很快找到最多网页,判断其重要性并能有效提取内容建库,这是一个网站的根基工作,底子打得越好,后期工作也越流畅。

健康的网站

健康的网站

 

我们在做网站结构相关SEO工作时,都应该考虑以下几个问题:

1、Baiduspider能不能找到所有网页

2、Baiduspider是否知道哪个网页是重要的

3、Baiduspider能否顺利提取网页内容

4、Baiduspider能否在网页中◇◇有用信息

一、友好的网站结构

1扁平or树型

一说到网站结构,大家都会提到扁平结构和树型结构,,这些指的是物理结构,即基于内容聚合的目录及文件位置决定的结构。其实对于百度搜索引擎来说,只要结构合理、有逻辑性、内容有规律可循都可以,都是友好的。

2链接结构

相对于物理结构,就要说到逻辑结构:即通过内部链接形成的链接结构,逻辑结构才是搜索引擎最关注的。对于一个网站来说,网页仅仅可以通过首页——目录1——目录2,一层一层链接是远远不够的,一个优秀的链接结构应该是网状的。

1)首页链接应该链向重要的频道页,频道页再链向下面的节点页或普通页面。同时,频道页、节点页和普通页面都应该可以链回到首页。

2)无论哪些页面之间互相链接,都需要一个描述恰当的锚文本。

3)链接不要放在JS、FLASH等搜索引擎不可见的位置,百度搜索引擎目前仅支持对部分JS和FLASH进行解析,绝大多数放在JS和FLASH里的链接都是获取不到的。另外,使用图片做链接入口应该完善alt标签。

4)为重要页面留更多入口。百度搜索引擎认为,获得更多内部投票的网页相对来说更加重要。

5) “离首页越近”的网页,越容易受到百度重视。这个“近”指的是页面离首页的点击距离。即使URL所在目录层级较深,只要在首页有入口,百度也认为这是一个非常重要的页面。

6)不要产生可怕的孤岛页面。虽然百度在提交入口、社会化挖掘方面做了许多工作,但链接抓取依然是百度获得新页面的最重要渠道。

二、通过导航让百度更好地认识站点

1导航内容搜索引擎可见

对于用户,导航要解决的问题是:我在网站的什么位置,我想看上一级、甚至上上一级更多内容的入口在哪里。对于spider,导航要解决的问题是:这个页面属于哪个领域,要表达的主题是什么。所以说,清晰的导航系统不仅有助于提高用户体验,对SEO的意义也是重大的,所有SEO做得出色的网站基本都拥有清晰明确的导航。

有网站的导航对用户来说美观友好,对百度来说却是不可见的。目前百度还不能搞定所有的JS和FLASH,保险起见,还是使用HTML的好。图片虽然美丽,作为导航也是对搜索引擎不友好的行为。

2导航稳定

导航内容应该是相对固定的,不要让导航成为“滚动条”。

3重要网页尽可能地在导航到

百度认为主导航◇◇现的链接,其重要性仅次于网站首页,所以应该尽量将站内重要页面在主导航中安排个位置。当然,主导航上也不可能放过多的内容,哪些链接可以上主导航还需要SEO人员进行平衡。

4巧用面包屑导航

上面说到,导航对于用户来说,解决了“想看上一级、甚至上上一级更多内容”的问题,这个导航指的就是面包屑导航。面包屑导航可以使结构复杂庞大的大中型网站变得清晰轻盈,在spider进行页面解析时会着重查看面包屑导航内容,强烈建议使用。

三、合理的domain结构

除了在网站建设的时候站长会思考到底使用二级域名还是子目录,在网站运营的过程中,也会考虑是否要把子目录的内容拆分成二级域名。因为很多SEO人员认为二级域名相对DuLi,其首页会得到百度的重视,能获得更好的排位——其实这是一个片面的错误观点,百度会通过很多指标对同domain下的二级域名和子目录进行重要程度判断,并没有武断地认为谁天生就会比谁强一些。

当SEO认为站内结构已经阻碍了网站高速发展就会考虑改版,最常见的改版便是将子目录移出主站点、单独形成二级域名。但大家都知道,改版肯定会对站点的收录排名和流量造成影响,一定要谨慎。那么在什么情况下才真的需要将子目录换成二级域名呢?其实只有一点:即子目录的内容足够丰富,且与主域的主题关联性不强!

对于二级域名和子目录这一点,可以查看《网址二级域名和子目录哪个更利于SEO优化?》

四、URL结构很重要

1、url结构规律化:同一个网页有不同url,会造成多个url同时被用户推荐导致权值分散,同时百度最终选择展现的那个url不一定符合你的预期。站点应该尽量不把sessionid和统计代码等不必要的内容放在url,如果一定要这样做可以通过robots禁止百度抓取这些非规范URL。

2、最好能让用户从url即可判断出网页内容,便于蜘蛛解析的同时也便于用户间传播。

3、url尽量短

●蜘蛛喜欢:百度

●蜘蛛不喜欢:百度&rs2=&un=&rs1=&rs5=&sn=&rs6=&nvselectvalue=0&oword=百度&tb=cn

4、不要添加蜘蛛难以解析的字符,如

5、动态参数不要太多太复杂,目前百度对动态url已经有了很好的处理,但是参数过多过复杂的url有可能被蜘蛛认为不重要而抛弃。

五、Baiduspider抓取异常的原因

有一些网页,内容优质,用户也可以正常访问,但是Baiduspider却无法正常访问并抓取,造成搜索结果覆盖率缺失,对百度搜索引擎对站点都是一种损失,百度把这种情况叫“抓取异常”。对于大量内容无法正常抓取的网站,百度搜索引擎会认为网站存在用户体验上的缺陷,并降低对网站的评价,在抓取、索引、排序上都会受到一定程度的负面影响,最终影响到网站从百度获取的流量。

下图为spider抓取系统的基本框架图,其中包括链接存储系统、链接选取系统、dns解析服务系统、抓取调度系统、网页分析系统、链接提取系统、链接分析系统、网页存储系统。Baiduspider即是通过这种系统的通力合作完成对互联网页面的抓取工作。

根据此图,以下是一些常见的抓取异常原因,Baiduspider能否顺利提取你网页的内容?

1服务器连接异常

服务器连接异常会有两种情况:一种是站点不稳定,Baiduspider尝试连接您网站的服务器时出现暂时无法连接的情况;一种是Baiduspider一直无法连接上您网站的服务器。

造成服务器连接异常的原因通常是您的网站服务器过大,超负荷运转。也有可能是您的网站运行不正常,请检查网站的web服务器(如apache、iis)是否安装且正常运行,并使用浏览器检查主要页面能否正常访问。您的网站和主机还可能阻止了Baiduspider的访问,您需要检查网站和主机的防火墙。

2网络运营商异常

网络运营商分电信和联通两种,Baiduspider通过电信或网通无法访问你的网站。如果出现这种情况,你需要与网络服务运营商进行联系,或者购买拥有双线服务的空间或者购买cdn服务。

3DNS异常

当Baiduspider无法解析你网站的IP时,会出现DNS异常。可能是您的网站IP地址错误,或者域名服务商把Baiduspider封禁。请使用WHOIS或者host查询自己网站IP地址是否正确且可解析,如果不正确或无法解析,请与域名注册商联系,更新您的IP地址。

4IP封禁

IP封禁为:限制网络的出口IP地址,禁止该IP段的使用者进行内容访问,在这里特指封禁了Baiduspider IP。当网站不希望Baiduspider访问时,才需要该设置,如果希望Baiduspider访问你的网站,请检查相关设置中是否误添加了Baiduspider IP。也有可能是你网站所在的空间服务商把百度IP进行了封禁,这时你需要联系服务商更改设置。

5UA封禁

UA即为用户代理(User-Agent),服务器通过UA识别访问者的身份。当网站针对指定UA的访问,返回异常页面(如403,500)或跳转到其他页面的情况,即为UA封禁。当你的网站不希望Baiduspider访问时,才需要该设置,如果你希望Baiduspider访问你的网站,useragent相关的设置中是否有Baiduspider UA,并及时修改。

6死链

页面已经无效,无法对用户提供任何有价值信息的页面就是死链接,包括协议死链和内容死链两种形式:

协议死链:页面的TCP协议状态/HTTP协议状态明确表示的死链,常见的如404、403、503状态等。

内容死链:服务器返回状态是正常的,但内容已经变更为不存在、已删除或需要权限等与原内容无关的信息页面。

对于死链,我们建议站点使用协议死链,并通过百度站长平台–死链工具向百度提交,以便百度更快地发现死链,减少死链对用户以及搜索引擎造成的负面影响。

7异常跳转

将网络请求重新指向其他位置即为跳转。异常跳转指的是以下几种情况:

1)当前该页面为无效页面(内容已删除、死链等),直接跳转到前一目录或者首页,百度建议站长将该无效页面的入口超链接删除掉

2)跳转到出错或者无效页面,对于长时间跳转到其他域名的情况,如网站更换域名,百度建议使用301跳转协议进行设置。

8其他异常:

1)针对百度refer的异常:网页针对来自百度的refer返回不同于正常内容的行为。

2)针对百度ua的异常:网页对百度UA返回不同于页面原内容的行为。

3)JS跳转异常:网页加载了百度无法识别的JS跳转代码,使得用户通过搜索结果进入页面后发生了跳转的情况。

4)压力过大引起的偶然封禁:百度会根据站点的规模、访问量等信息,自动设定一个合理的抓取压力。但是在异常情况下,如压力控制失常时,服务器会根据自身负荷进行保护性的偶然封禁。这种情况下,请在返回码中返回503(其含义是“Service Unavailable”),这样Baiduspider会过段时间再来尝试抓取这个链接,如果网站已空闲,则会被成功抓取。欢迎来到昊天seo的博客欢迎来到昊天seo的博客

本文地址官网    新乡网站建设,seo

分享到:更多 ()
a