多线程读取文件信息并入库部分代码

package com.jiuqi;

import java.io.BufferedReader;
import java.io.BufferedWriter;
import java.io.File;
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.FileWriter;
import java.io.IOException;
import java.io.InputStreamReader;
import java.text.SimpleDateFormat;
import java.util.ArrayList;
import java.util.Date;
import java.util.HashMap;
import java.util.Iterator;
import java.util.List;
import java.util.Map;
import java.util.Random;
import java.util.Set;
import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.Callable;
import java.util.concurrent.CountDownLatch;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.Future;

public class ThreadTest {
    final static SimpleDateFormat sdf = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");  
    public static void main(String[] args)  
    {  
        File f = new File("F://重点运营车辆轨迹入库//track_20180806//track//2018//08//06");  
        // 文件总数  
        final List<File> filePathsList = new ArrayList<File>();  
        File[] filePaths = f.listFiles();  
        for (File s : filePaths) {  
            filePathsList.add(s);  
        }  
  
        CountDownLatch latch = new CountDownLatch(filePathsList.size());  
        ExecutorService pool = Executors.newFixedThreadPool(100);  
  
        BlockingQueue<Future<Map<String, FileInputStream>>> queue =   
                new ArrayBlockingQueue<Future<Map<String, FileInputStream>>>(100000);  
  
        System.out.println("-------------文件读、写任务开始时间:" + sdf.format(new Date()));  
        for (int i = 0; i < filePathsList.size(); i++) {  
            File temp = filePathsList.get(i);  
            Future<Map<String, FileInputStream>> future = pool.submit(new MyCallableProducer(latch, temp));  
            queue.add(future);  
            pool.execute(new CallableConsumer(queue));  
        }  
          
        try {  
            Thread.sleep(60 * 1000);
            latch.await();  
        } catch (InterruptedException e) {  
            e.printStackTrace();  
        }  
        System.out.println("-------------文件读、写任务结束时间:" + sdf.format(new Date()));  
        pool.shutdownNow();  
    }  
  
      
    // 文件读线程  
    static class MyCallableProducer implements Callable<Map<String, FileInputStream>>  
    {  
        private CountDownLatch latch;  
        private File file;  
        private FileInputStream fis = null;  
        private Map<String, FileInputStream> fileMap = new HashMap<String, FileInputStream>();  
  
        public MyCallableProducer(CountDownLatch latch, File file)  
        {  
            this.latch = latch;  
            this.file = file;  
        }  
  
        @Override  
        public Map<String, FileInputStream> call() throws Exception  
        {  
            System.out.println(Thread.currentThread().getName() + " 线程开始读取文件 :" + file.getName() + " ,时间为 "+ sdf.format(new Date()));  
            fis = new FileInputStream(file);  
            
           // fileMap.put(file.getName(), fis);  
            fileMap.put(file.getPath(), fis);
            doWork(); 
            System.out.println(Thread.currentThread().getName() + " 线程读取文件 :" + file.getName() + " 完毕"  + " ,时间为 "+ sdf.format(new Date()));  
            latch.countDown();  
            return fileMap;  
        }  
          
        private void doWork()   
        {  
            int time =1000;  
            try {  
                Thread.sleep(time);  
            } catch (InterruptedException e) {  
                e.printStackTrace();  
            }  
        }  
    }  
  
      
    // 文件写线程  
    static class MyCallableConsumer implements Runnable   
    {  
        private String fileName = "";  
        private BlockingQueue<Future<Map<String, FileInputStream>>> queue;  
        private FileInputStream fis = null;  
        private File dirFile = null;  
  
        private BufferedReader br = null;  
        private InputStreamReader isr = null;  
        private FileWriter fw = null;  
        private BufferedWriter bw = null;  
  
        public MyCallableConsumer(BlockingQueue<Future<Map<String, FileInputStream>>> queue2)  
        {  
            this.queue = queue2;  
        }  
  
        @Override  
        public void run()  
        {  
            try {  
                Future<Map<String, FileInputStream>> future = queue.take();  
                Map<String, FileInputStream> map = future.get();  
  
                Set<String> set = map.keySet();  
                for (Iterator<String> iter = set.iterator(); iter.hasNext();)   
                {  
                    fileName = iter.next().toString();  
                    fis = map.get(fileName);  
  
                    System.out.println(Thread.currentThread().getName() + " 线程开始写文件 :" + fileName  + " ,时间为 "+ sdf.format(new Date()));  
                    try {  
                        isr = new InputStreamReader(fis, "utf-8");  
                        br = new BufferedReader(isr);  
                          
                        dirFile = new File("F:/重点运营车辆轨迹入库" + File.separator + "track1" + File.separator + fileName);  
                        if(!dirFile.exists()){
                            dirFile.createNewFile();
                        }
                        fw = new FileWriter(dirFile);  
                        bw = new BufferedWriter(fw);  
  
                        String data = "";  
                        bw.write("+++++++++++++" + Thread.currentThread().getName() + " 线程开始写文件++++++++++++");  
                        while ((data = br.readLine()) != null) {  
                            bw.write(data + "\r");  
                        }  
                    } catch (FileNotFoundException e) {  
                        e.printStackTrace();  
                    } catch (IOException e) {  
                        e.printStackTrace();  
                    } finally {  
                        try {  
                            bw.close();  
                            br.close();  
                        } catch (IOException e) {  
                            e.printStackTrace();  
                        }  
                    }  
                }  
            } catch (InterruptedException e) {  
                e.printStackTrace();  
            } catch (ExecutionException e) {  
                e.printStackTrace();  
            }  
        }  
    }  
    
    
    
 // 文件写线程  
    static class CallableConsumer implements Runnable   
    {  
        private String fileName = "";  
        private BlockingQueue<Future<Map<String, FileInputStream>>> queue;  
        private FileInputStream fis = null;  
        private File dirFile = null;  
  
        private BufferedReader br = null;  
        private InputStreamReader isr = null;  
        private FileWriter fw = null;  
        private BufferedWriter bw = null;  
  
        public CallableConsumer(BlockingQueue<Future<Map<String, FileInputStream>>> queue2)  
        {  
            this.queue = queue2;  
        }  
  
        @Override  
        public void run()  
        {  
            try {  
                Future<Map<String, FileInputStream>> future = queue.take();  
                Map<String, FileInputStream> map = future.get();  
  
                Set<String> set = map.keySet();  
                for (Iterator<String> iter = set.iterator(); iter.hasNext();)   
                {  
                    fileName = iter.next().toString();  
                    fis = map.get(fileName);  
  
                    System.out.println(Thread.currentThread().getName() + " 线程开始写文件 :" + fileName  + " ,时间为 "+ sdf.format(new Date())); 
                    Test.readTxtFile(fileName);
                }  
            } catch (InterruptedException e) {  
                e.printStackTrace();  
            } catch (ExecutionException e) {  
                e.printStackTrace();  
            }  
        }  
    }  
}
 

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值