saprk配置信息使用的三种方式:
1、代码中使用SparkConf来配置;
2、在提交时候使用--conf来配置 spark-submit --master --conf k=v 如果要设置多个配置信息的值,需要使用多个–conf;
3、在spark的配置文件spark-default.conf文件中配置;
spark端口及修改
配置文件:start-master.sh/spark-default.sh/spark-env.sh
8080:master默认Web端口;
8081:work默认Web端口;
7077:master通信端口;
18080:spark历史服务端口; 【./start-history-servver.sh】
4040:spark任务查看页面;