spark
学习中....
新的一天加油!
展开
-
在学习Spark-Streaming时遇到一个很低级的错误
报错如下:Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/spark/streaming/StreamingContext at SparkStreaming.Demo01$.main(Demo01.scala:10) at SparkStreaming.Demo01.main(Demo01.s...原创 2020-02-15 23:34:20 · 294 阅读 · 0 评论 -
运行spark-shell出现:WARN NativeCodeLoader: Unable to load native-hadoop library for your platform
在运行spark-shell时,会出现以下警告,但是不影响正常运行:WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable解决办法:修改spark/conf/spark-env.sh文件,添...原创 2020-01-15 10:01:35 · 1401 阅读 · 0 评论 -
在使用spark时,碰到内存不足问题
在使用spark时,默认内存的分配为1GB,但是由于学习环境有限,服务器内存太小不能满足最小内存(1GB)。当在启动spark-shell后,可能过会儿就被kill掉了,比如:scala> bin/spark-shell: line 44: 9896 Killed "${SPARK_HOME}"/bin/spark-submit --class org...原创 2020-01-14 16:55:58 · 4893 阅读 · 2 评论 -
Spark非高可靠集群的安装
spark的版本为:2.1.2下载地址:https://archive.apache.org/dist/spark/spark-2.1.2/分配如下:hadoop101 hadoop102 hadoop103 hadop104 master worker worker worker worker 1.首先...原创 2019-11-13 11:27:48 · 135 阅读 · 0 评论