死链接检测
前段时间服务器被入侵,挂了很多博彩之类的黑页,而且全部被百度收录。
现在把漏洞补好了,但删除黑页文件以后成了死链,要怎么让百度删除收录呢?
在网上找了一下,似乎只有检测网址是否被收录的工具,而没有检测收录的是不是死链的工具。
自己理清了下思路,找办法找出了所有被收录的死链,并写下这篇文章。
不知道有没有更好的方法,大家可以告诉我,先分享给大家,如果有大神请忽视或者告诉我更好的方法,一起学习交流吧。
下面教程开始
先在百度找到xenu可以模拟爬虫爬取所有连接,我下载了个汉化版。
我们先用这个工具查询所有被收录的页面。
打开软件,填入简版百度site网站地址,之所以用简版是可以减少链接查询时间和内容。(请把xxx.bizcn.com换成你的网址)
http://www.baidu.com/s?ie=utf-8&tn=baidulocal&wd=site%3Axxx.bizcn.com
等待检测完成。
导出的文件,我们可以看到格式是:网址+空格+状态码
那么写一个正则,把需要的网址提取出来就行,比如www.baidu.com下的404页面就是
/http:\/\/www.baidu.com(.*?)\s404/i
(以http://www.baidu.com开头,\s代表空格,404,/i代表匹配大小写)
不会正则怎么办?
为了方便大家,我把文件作了修改,大家只要把head改成标致性开头,state改成状态码就行,file改成导出的文件路径就行。
head怎么改,举个例子,
你的网站是http://www.baidu.com/abc.html,那么你就写http://www.baidu.com/
你的网站是http://abc.baidu.com/abc.html,那么你就写http://abc.baidu.com/
把正则写入php,在php环境下运行get.php。那么结果就出来了。
这时你只需要全选,复制到一个txt文件,上传到网站空间,再到百度站长平台死链提交填入文件路径就行就可以。
我们知道,思路是通过爬取找出所有被收录的链接,然后按条件列出来而已。
这样的话,只要把开头输入的site网址改一下,也可以查询其他搜索引擎的收录。
把正则改一下,可以获得如标题等其他内容。在此就不一一叙述。
原创:http://blog.vg欢迎来小博逛逛
相关阅读
网站推广有哪些技巧么,网站刚建设完后,接下来就是最重要的网站推广,但网站推广不一朝一夕就能做好的,那么要提高网站的访问量和知
现在的网站管理员同伙手头上或多或少有1-2个网站,但是许多网站管理员反映网站天天都更新原始内容,但是百度没有收录文章。事实
做过SEO的朋友都知道一个网站如何在搜索引擎中获得好的排名收录是极其重要的。只有好的收录才能给网站布局更多的关键词,从而
搜索引擎为了抓取尽可能多的页面,它会自动跟踪页面的链接,通常采用广度优先、深度优先这两种遍历方法。理论上说,无论是采用深
辛辛苦苦上传的网站过了好几天了依旧没有被收录,是哪里出了问题?别急,小编带大家来弄清楚是哪里出了问题以及如何应对。