您现在正在浏览：站长之家 >> 设计编程 >> 详细内容

Java实现利用搜索引擎收集网址的程序

时间:2007-12-27 来源:不详作者:林子

　　我这里讲的不是怎么使用搜索引擎，而是怎么让程序利用搜索引擎来搜集网址，这有什么用？很有用！网上动辄有人叫卖网址数据库，如发布软件网址、邮件地址、论坛网址、行业网址，这些网址是怎么来的呢？不可能是人手工收集而来的，都是让程序利用搜索引擎取到的，假如您需要某类网址信息数据，就跟我来一起研究一下，非常简单。

　　本文采用Java语言写成，以google和百度搜索引擎为对象。

　　我们要利用google、百度搜索引擎的搜索规则中的两条，要害字搜索和inurl搜索。什么是inurl搜索，就是你所要搜索的网址中本身带有的要害字，比如http://www.xxx.com/post.asp ,这个网址就含有post.asp这样的要害字，在搜索引擎中填写规则是 inurl:post.asp,这是收集网址的要害，因为很多网址本身会带有特定的信息，比如软件发布的网页网址信息中多含有 publish、submit、tuijian这样的信息，如http://www.xxx.com/publish.asp,这样的网址多是发布信息的网页，在结合网页中本身可能含有的要害字，就可以用搜索引擎搜索出结果，然后我们利用程序将结果取回，对HTML页面进行分析，去除没有用的信息，将有用的网址信息写入文件或者数据库，就可以给其它应用程序或者人来使用了。

　　第一步，用程序将搜索结果取回，先以百度为例，比如我们要搜索软件发布的网页，要害字采用 “软件发布版本 inurl:publish.asp",先登录百度看看，将要害字写入，然后提交，在地址栏就会看到 http://www.baidu.com/s?ie=gb2312&bs=软件发布软件版本 inurl:publish.asp&sr=&z=&cl=3&f=8&wd=软件发布版本 inurl:publish.asp&ct=0 ,中文要害字全都变成编码了，没有关系，我们在程序中直接用中文也是可以的，其中多个要害字用＋号相连，去掉一些没有用的信息，我们可以把地址优化成 http://www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd=软件发布版本 inurl:publish.asp&pn=0&cl=0，其中rn表示一页显示多少个结果，wd=表示你要搜索的要害字，pn表示从第几条开始显示，这个pn将是我们程序循环取结果的变量，每20条循环一次。我们用Java写的程序来模拟这个搜索的过程，用到的要害类为 java.net.HttpURLConnection,java.net.URL，先写一个提交搜索的class,要害代码如下：

本文来自织梦

以下是引用片段：
　　classSearch
　　{
　　publicURLurl;
　　publicHttpURLConnectionhttp;
　　publicjava.io.InputStreamurlstream;
　　......
　　for(inti=0;i ;i<100)
　　{
　　......
　　try{
　　　url=newURL("www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0&wd=软件发布版本 inurl:publish.asp&pn=" beginrecord "&cl=0");
　　}catch(Exceptionef){};
　　try{
　　　http=(HttpURLConnection)url.openConnection();
　　　http.connect();
　　　urlstream=http.getInputStream();
　　}catch(Exceptionef){};
　　java.io.BufferedReaderl_reader=newjava.io.
　　BufferedReader(newjava.io.InputStreamReader(urlstream));
　　try{
　　　while((currentLine=l_reader.readLine())!=null){
　　　　totalstring =currentLine;
　　　}
　　}catch(IOExceptionex3){}
　　....
　　//本次搜索的结果已经放到totalstring中了，是一些HTML代码，需要下一步进行分析了。

内容来自dedecms

　　}
　　再以google为例，稍微有些不同，google对浏览器进行了一些检测，编码也不同，URL为http: //www.google.com/search?q=软件发布版本 inurl:publish.asp&hl=zh-CN&lr= &newwindow=1&start=0&sa=N&ie=UTF-8,其中编码要用ie=UTF-8,start表示从第几条记录显示，需要注重的是google对浏览器还要检查，假如浏览器不符合它的要求，将返回错误代码，所以在模拟浏览器提交中，我们要多加一行代码，修改要害部分要将http属性中的User-Agent设置为常用的浏览器，比如Mozilla/4.0,代码如下：