java调用shell脚本

背景

我们在开发过程中，大部分是java开发， 而在文本处理过程中，主要就是脚本进行开发。 java开发的特点就是我们可以很早地进行TDDL， METAQ 等等地对接； 而脚本开发的特点就是在进行批处理的时候非常方便。 前阵子我遇到这么一个需求场景： 对抓取的数据进行打包， 后来又遇到我要通过脚本进行抓取，比如nodejs下基于phantomjs的casperjs爬虫。

解决方法

对于第一个问题：java抓取，并且把结果打包。 
那么比较直接的做法就是，java接收各种消息（db，metaq等等），然后借助于jstorm集群进行调度和抓取。 最后把抓取的结果保存到一个文件中，并且通过调用shell打包， 回传。 也许有同学会问， 为什么不直接把java调用odps直接保存文件，答案是，我们的集群不是hz集群，直接上传odps速度很有问题，因此先打包比较合适。（这里不纠结设计了，我们回到正题）

java调用shell的方法

通过ProcessBuilder进行调度

这种方法比较直观，而且参数的设置也比较方便， 比如我在实践中的代码(我隐藏了部分业务代码)：

1. ProcessBuilder pb = new ProcessBuilder("./" + RUNNING_SHELL_FILE, param1,

2. param2, param3);

3. pb.directory(new File(SHELL_FILE_DIR));

4. int runningStatus = 0;

5. String s = null;

6. try {

7. Process p = pb.start();

8. try {

9. runningStatus = p.waitFor();

10. } catch (InterruptedException e) {

11. }

12.  

13. } catch (IOExcepti