第六章 任务执行

6.1在线程中执行任务

1.当围绕“任务执行”来设计应用程序时，第一步就是要找出清晰的任务边界。大多数服务器应用程序都提供了以独立的客户请求为边界这种方式。
2.在正常的负载下，服务器应该表现出良好的吞吐量和快速相应。在负荷过载时，性能应该是逐渐降低，而不是直接失败。

6.1.1串行地执行任务

class SingleThreadWebServer{
	public static void main(String[] args) throws IOException{
			ServerSocket server = new ServerSocket(80);
			while(true){
				Socket connection = socket.accept();
				//处理请求
			}
	} 
}

缺点： 1.每次只能处理一个请求,处理套接字i/o或者处理文件i/o时，会发生阻塞。
2.服务器的资源利用率非常低，单线程在等待i/o操作完成时，cpu处于空闲状态。

6.1.2显式地为任务创建线程

public class ThreadPerTaskWebServer {

    public static void main(String[] args)throws IOException {
        ServerSocket serverSocket = new ServerSocket(80);

        while (true){
            final Socket connection = serverSocket.accept();
            Runnable task = new Runnable() {
                @Override
                public void run() {
					//handle request
                }
            };
            new Thread(task).start();
        }
    }
}

主线程交替执行“接受外部连接”与“分发请求”等操作。对于每个请求，主循环将创建一个新线程来处理请求。
改进：

• 任务处理从主线程中分离，主线程可以在前面的请求处理完成之前接受新的请求，提高响应速度。
• 任务可以并行处理，从而能同时服务多个请求。吞吐量提高。
• 任务处理代码必须是线程安全的，因为当有多个任务时会并发地调用这段代码。

6.1.3无限制创建线程的不足

为每个任务分配一个线程这种方式存在一定的缺陷，尤其是需要创建大量线程时：

• 线程生命周期的开销非常高。如果请求的到达率非常高且请求的处理过程是轻量级的，这种情况下创建一个线程就会消耗大量的计算资源。
• 资源消耗。活跃的线程数量会消耗系统资源，尤其是内存。如果已经有足够多的线程使CPU保持忙碌状态，继续创建线程会使性能降低。
• 稳定性。在可创建线程的数量上存在一个限制。破坏了这些限制，可能会抛出OutOfMemoryError异常。

6.2Executor框架

public interface Executor {
    void execute(Runnable command);
}

1.Executor可以将任务的提交过程与执行过程解耦开来，用Runnable表示任务。
2.Executor基于生产者-消费者模式。提交任务的操作相当于生产者，执行任务的线程则相当于消费者。

6.2.1 基于Executor的web服务器

public class TaskExecutionWebServer {
    private static final int NTHREADS = 100;
    private static final Executor exec = Executors.newFixedThreadPool(NTHREADS);

    public static void main(String[] args)throws IOException {
        ServerSocket serverSocket = new ServerSocket(80);
        while (true){
            final Socket connection = serverSocket.accept();
            Runnable task = new Runnable() {
                @Override
                public void run() {
                    //handleRequest(connection)
                }
            };
            exec.execute(task);
        }
    }
}

6.2.2执行策略

• 在什么（what）线程中执行任务？
• 任务按照什么（what）顺序执行？（FIFO,LIFO,优先级）
• 有多少（how many）个任务能并发执行？
• 在队列中有多少（how many）个任务在等待执行？
• 如果系统由于过