java爬取页面数据报错401,java爬虫爬取网页内容

1、网络爬虫

按照一定的规则爬取网页上的信息，通常是爬取到一些URL之后然后对这些URL放入队列在一次次的进行搜索。

2、Java爬虫网页

网页的内容，找到在网页中的其它链接地址，然后通过这些链接地址寻找下一个网页，这样一直循环下去，直到把这个网站所有的网页都抓取完为止。如果把整个互联网当成一个网站，那么网络蜘蛛就可以用这个原理把互联网上所有的网页都抓取下来。

3、Java爬虫爬取网页内容方法：用apache提供的包// commons-httpclient-3.1.jar

// commons-logging-1.0.4.jar

public static String createhttpClient(String url, String param) {

HttpClient client = new HttpClient();

String response = null ;

String keyword = null ;

PostMethod postMethod = new PostMethod(url);

//  try {

//   if (param != null)

//    keyword = new String(param.getBytes("gb2312"), "ISO-8859-1");

//  } c