3.Spark的安装（华为云学习笔记，Spark编程基础，大数据）

GC??

已于 2022-06-10 11:37:18 修改

阅读量406

点赞数 1

分类专栏： Spark编程基础文章标签： spark 华为云学习

于 2022-06-10 11:29:19 首次发布

本文链接：https://blog.csdn.net/GCPOP/article/details/125214739

版权

本文档详细介绍了如何在Linux系统上安装Apache Spark，包括从下载到解压，配置相关文件，以及运行Spark自带的SparkPi示例，以验证安装成功。在实验过程中，讲解了如何修改spark-env.sh文件，并使用grep命令过滤输出结果，以便查看Pi的近似值。

摘要由CSDN通过智能技术生成

Spark的安装
① 在Linux系统中安装Spark；
② 运行Spark自带实例。
实验原理
-> Spark
Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架，Spark，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是——Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。Spark 是一种与 Hadoop 相似的开源集群计算环境，但是两者之间还存在一些不同之处，这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越，换句话说，Spark 启用了内存分布数据集，除了能够提供交互式查询外，它还可以优化迭代工作负载。
1. 对安装文件进行解压缩
2. ∥ 下载Spark安装文件
3. 打开火狐浏览器，访问如下链接下载Spark安装文件
4. 拷贝代码http://file.ictedu.com/fileserver/big_data_common/data/spark-2.1.0-bin-without-hadoop.tgz
下载后的Spark会被保存到/home/user/Downloads目录下。
在这里插入图片描述