怎么让程序利用搜索引擎来搜集你需要的东西

本文采用Java语言写成，以google和百度搜索引擎为对象。

我们要利用google、百度搜索引擎的搜索规则中的两条，关键字搜索和inurl搜索。什么是inurl搜索，就是你所要搜索的网址中本身带有的关键字，比如http://www.xxx.com/post.asp ,这个网址就含有post.asp这样的关键字，在搜索引擎中填写规则是 inurl:post.asp,这是收集网址的关键，因为很多网址本身会带有特定的信息，比如软件发布的网页网址信息中多含有 publish、submit、tuijian这样的信息，如http://www.xxx.com/publish.asp,这样的网址多是发布信息的网页，在结合网页中本身可能含有的关键字，就可以用搜索引擎搜索出结果，然后我们利用程序将结果取回，对HTML页面进行分析，去除没有用的信息，将有用的信息写入文件或者数据库，就可以给其它应用程序或者人来使用了。 

第一步，用程序将搜索结果取回，先以百度为例，比如我们要搜索软件发布的网页，关键字采用 “ 软件发布 版本 inurl:publish.asp", 先登录百度看看，将关键字写入，然后提交，在地址栏就会看到 http://www.baidu.com/s?ie=gb2312&bs=%C8%ED%BC%FE%B7%A2%B2%BC+%C8%ED%BC%FE%B0%E6%B1%BE+inurl%3Apublish.asp&sr=&z=&cl=3&f=8&wd=%C8%ED%BC%FE%B7%A2%B2%BC+%B0%E6%B1%BE+inurl%3Apublish.asp&ct=0 , 中文关键字全都变成编码了，没有关系，我们在程序中直接用中文也是可以的，其中多个关键字用＋号相连，去掉一些没有用的信息，我们可以把地址优化成 http://www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd= 软件发布 + 版本 +inurl%3Apublish%2Easp&pn=0&cl=0 ，其中 rn 表示一页显示多少个结果， wd= 表示你要搜索的关键字， pn 表示从第几条开始显示，这个 pn 将是我们程序循环取结果的变量，每 20 条循环一次。我们用 Java 写的程序来模拟这个搜索的过程，用到的关键类为 java.net.HttpURLConnection,java.net.URL ，先写一个提交搜索的 class, 关键代码如下：

以下是引用片段： 　 class Search  　 {  　　 public URL url;  　　 public HttpURLConnection http;  　　 public java.io.InputStream urlstream;  　　 ......  　　 for(int i=0;i++;i <100)  　　 {  　　 ......  　　   try {  　　　    url = new URL("www.baidu.com/s?lm=0&si=&rn=20&ie=gb2312&ct=0& wd= 软件发布 + 版本 +inurl%3Apublish%2Easp&pn="+beginrecord+"&cl=0");  　　       }catch(Exception ef){} 　 　 try {  　　　 http = (HttpURLConnection) url.openConnection();  　　　 http.connect();  　　　 urlstream = http.getInputStream(); 　　 }catch(Exception ef){}  　　 java.io.BufferedReader l_reader = new java.io.  BufferedReader(new java.io.InputStreamReader(urlstream));  　　 try {  　　　 while ((currentLine = l_reader.readLine()) != null) {  　　　　 totalstring += currentLine;  　　　 }  　　 } catch (IOException ex3) {}  　　 ....  　　 // 本次搜索的结果已经放到 totalstring 中了，是一些 HTML 代码，需要下一步进行分析了。   　　 }

      

    再以 google 为例，稍微有些不同， google 对浏览器进行了一些检测，编码也不同， URL 为 http: //www.google.com/search?q= 软件发布 + 版本 +inurl:publish.asp&hl=zh-CN&lr= &newwindow=1&start=0&sa=N&ie=UTF-8, 其中编码要用 ie=UTF-8,start 表示从第几条记录显示，需要注意的是 google 对浏览器还要检查，如果浏览器不符合它的要求，将返回错误代码，所以在模拟浏览器提交中，我们要多加一行代码，修改关键部分要将 http属性中的User-Agent设置为常用的浏览器，比如Mozilla/4.0, 代码如下：

以下是引用片段： 　　 try {  　　 http = (HttpURLConnection) url.openConnection();  　　 http.setRequestProperty("User-Agent", "Mozilla/4.0");  　　 http.connect();  　　 urlstream = http.getInputStream();  　　 }catch(Exception ef){};

   第二步，对取回的 HTML 编码进行分析，取出其中的有用的信息，并写入文件或者数据库，由于这些搜索引擎都有网页快照和相似网页等网址信息混杂在 HTML 中，我们要将这些网址信息剔除掉，剔除的关键就是找出其中的规律，百度搜索引擎中的网页快照和其它没有用的的地址都含有 baidu 这个关键字，而 google 中含有的无用网址信息含有关键字 google 和 cache, 我们就根据这些关键字剔除无用网址信息。在 Java 中要对字符串进行分析必然要用到 java.util.StringTokenize 这个类，用来将字符串以特定的分隔符分开， java.util.regex.Pattern 和 java.util.regex.Matcher 用来匹配字符串。