) t. F# ~" |6 }4 n' t. h4 q 我的一个网站,从3月21号开始,大量的网页的索引被移除。我一开始还以为是谷歌算法的影响,一开始也没有理它。但是最近发现越来越不对了。即使受到更新的影响,也不可能一下子来源谷歌的完全被拔毛,又不是采集站。非常诡异的曲线。点击快掉光了。而且我没有收到任何谷歌人工操作的提醒。7 [$ \, a) V2 w
/ ~5 k }9 }. D6 f$ i0 S f
2 d. ?9 f( J6 \% ?) n & ?6 b4 {& w8 C; i- q9 m5 f 2 `3 g2 v) l5 ^ 今天有空瞄了一眼网站工具,发现这索引不对啊,已经开始掉了一半了。然后我仔细一查,基本上所有的文章的索引都被移除了。 & Z) Y* P4 e9 u + o0 j5 x' T# ?) u, Z( e8 O) u! w& ]. ?
然后看看哪些被移除的,发现网页可以正常访问,但是谷歌抓取就是抓取不了。真是奇怪。抓取的时候,会提示Page fetch错误:Failed: Blocked due to access forbidden (403)。这个太不可思议了。网站已经运行了几年了,怎么现在出现这个问题?+ x5 f/ H! t. o& O6 o* b! c
) P" @, k+ K6 g1 U; a; v$ }+ K" A; L. z# S7 l" k
我把所有的插件都禁止后,发现问题依然存在。然后联系了bluehost客服。他们说我的网站的robots.txt是没有的。那就真的诡异了。没有我之前的网站怎么能抓取到呢?robots.txt是这样的现在。 ) P- E4 ~8 j$ v9 z7 R1 K
User-agent: * 9 b) N0 e9 v: i
Disallow: /wp-admin/ # y! a) ]# W$ o- |. S# G
Allow: /wp-admin/admin-ajax.php / U% f U. v! U
6 W) L8 Y9 Q8 d8 d$ k' R( w8 j
Sitemap: https://xxxxx.com/wp-sitemap.xml
复制代码
然后他们改了之后,我发现用了谷歌的url测试工具还是抓取不到,太坑了。/ z0 \1 S2 R( |9 Y+ f
- t5 Q# S9 y5 r4 ~, u; f) r
我发现论坛这2天已经有几个人碰到被黑的情况,大家有空多检查下。我这个网站这次也是被黑的话,已经第二次了。。。; O: H8 r, n8 n3 a5 R& M