2014年抓取Google查询结果的方法

import java.io.IOException;
import java.io.InputStream;
import java.net.InetSocketAddress;
import java.net.Proxy;
import java.net.URL;
import java.net.URLConnection;
import java.util.Scanner;
public class Exec {
        public  String fetchPageContent(String url, String userAgent)
                        throws IOException {
                String pageContent = "";
                
                // set URL connection
                URL urlFetcher = new URL(url);
                URLConnection connection = urlFetcher.openConnection();
                // close the connection in 10 seconds
                connection.setConnectTimeout(10000);
                // set the User-Agent
                connection.setRequestProperty("User-Agent", userAgent);
                if (connection != null) {
                        InputStream inputStream = connection.getInputStream();
                        if (inputStream != null) {
                                Scanner scanner = new Scanner(inputStream);
                                if (scanner != null) {
                                        scanner.useDelimiter("\\Z");
                                        pageContent = scanner.next();
                                        inputStream.close();
                                }
                        }
                }
                return pageContent;
        }
        public  String searchGoogle(String queryStr) {
                String searchResult = "";
                try {
                        queryStr = queryStr.replaceAll(" ", "+");
                        String url = "http://www.google.com/search?hl=en&&as_epq="
                                        + queryStr;
                        int random = (int) Math.random() * 100;
                        String userAgent = "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1"
                                        + random + ")";
                        searchResult = fetchPageContent(url, userAgent);
                } catch (IOException e) {
                        e.printStackTrace();
                }
                return searchResult;
        }
        public static void main(String[] args) {
                Exec e = new Exec();
                System.out.println(e.searchGoogle("java"));
        }
}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值