使用httpclient 抓取时, 出现 java.lang.OutOfMemoryError: unable to create new native thread 错误原因:
1. OutOfMemoryError:unable to create new native thread , 不是内存泄露的问题,应该是系统内存不足的问题。 抓取时,httpclient 起了多个线程,而线程的占用的是系统内存,不在 heap 里。当系统内存不足时,可能会出现这个问题
2. 虽然每次抓取后都有调用 releaseConnection 方法,但并没有立即把连接关闭,而是把连接返回给了 connection manager,一个连接在某一时刻只能供一个线程使用,可能在同一时刻httpclient建立了几十个线程,但 抓取设定的最大连接数为 100, 当再建立新的线程时,系统内存不足,导致进程崩溃,退出
3. connectionManager.getParams().setParameter(
"http.connection-manager.max-total", 20);
4. httpclient 及时关闭连接 http://www.cnblogs.com/wasp520/archive/2012/07/06/2580101.html