自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(12)
  • 收藏
  • 关注

原创 半期学习总结

groupBy[K](f: (A) ⇒ K): immutable.Map[K, Repr],参数是一个 (A) => K 的函数,即有一个输入和一个输出的函数,(A) => K 中A即Seq中的每项,而K为该项对应的key,Scala根据这个函数返回的key,判断那些项是一组的。被lazy修饰的变量初始化的时机是在第一次使用此变量的时候才会赋值,并且仅在第一次调用时计算值,即值只会被计算一次,赋值一次,再之后不会被更改了,所以lazy修饰的变量必须同时是val修饰的不可变变量。1.打开一个数据库连接。

2023-06-16 19:06:18 133

原创 Spark大数据处理讲课笔记3.1 掌握RDD的创建

将数据集(hello, world, scala, spark, love, spark, happy)存储在三个节点上,节点一存储(hello, world),节点二存储(scala, spark, love),节点三存储(spark, happy),这样对三个节点的数据可以。在编程时,可以把RDD看作是一个数据操作的基本单位,而不必关心数据的分布式特性,Spark会自动将RDD的数据分发到集群的各个节点。想法是活的,语法是死的,重要的是得先有想法,然后用语法去实现。,查看RDD中的内容,保存到常量。

2023-06-15 21:44:07 119

原创 掌握Scala运算符号

例如:3 + 2 * 5,我们期望获得的是13,但是根据Scala特点,Scala中所有运算符其实就是方法,那么按照这种说法,表达式应该等同于(3).+(2) 得到5,(5).*(5) 得到25,与我们的预期不符!靠的是运算符优先级。如果运算符以=结尾,且运算符并非比较运算符 =、==或=,则运算符优先级等同于=,即优先级最低,例如+=、-=等;由于Scala并没有真正的运算符,运算符其实是方法的一种形式,所以此处运算符的优先级,其实就是指方法的优先级。Scala中,如果是基本数据类型,==与!

2023-06-15 21:04:38 203 1

原创 使用Scala集成开发环境

在包net.huawei.day01上右击,选择New→Scala Class,选择创建Object,创建一个Scala对象TestHelloWorld,在里面创建主方法,实例化HelloScala,然后调用其speak()方法。在IDEA的欢迎界面中单击Create New Project按钮,在弹出的窗口中选择左侧的Scala项,然后选择右侧的IDEA项,单击Next按钮。Scala类创建成功后,即可编写Scala程序,定义一个没有返回值的speak()方法,用来输出一条信息。我们学习在线安装方式。

2023-06-15 20:46:51 1237 1

原创 Scala变量与数据类型

Unit是一个不包含任何信息的值类型,和Java语言中的void等同,用作不返回任何结果的方法的结果类型。九个基本类型提供的方法比较有限,为了拓展其功能,Scala提供了对应九个富包装器,其实也是九个类,这九个类的直接量在需要时可以自动被转换为其对应的富包装类来调用富包装类提供的额外方法。所有非值类型都被定义为引用类型。Null是所有引用类型(AnyRef)的子类,所以Null可以赋值给所有的引用类型,但不能赋值给值类型,这个和Java的语义是相同的。在Scala中,所有的值都有一个类型,包括数值和函数。

2023-06-15 20:37:38 220 1

原创 学习Scala环境搭建

将代码写在.scala文件中,通过编译命令将.scala编译为.class,然后去解释执行。启动命令行窗口,执行scala -version命令,若能正确输出当前Scala版本信息,则说明安装成功。在命令行提示后输入scala,则会进入Scala的命令行模式,在此可以编写Scala表达式和程序。在命令行提示后输入scala,则会进入Scala的命令行模式,在此可以编写Scala表达式和程序。将代码写在xxx.scala文件中,通过scala xxx.scala执行文件中的代码。

2023-06-15 20:28:11 892 2

原创 HDFS的shell操作

HDFS的shell操作

2022-12-16 08:30:31 258

原创 Hadoop集群测试

Haoop集群测试

2022-11-23 08:55:42 122

原创 Hadoop集群构建

Hadoop集群构建

2022-11-23 08:42:25 112

原创 Hadoop集群构建(三)

上次jdk安装成功。我们编写一个java命令:vimHelloWorld.java输入以下内容:然后寸盘,执行:javac HelloWorld.java执行,命令java HelloWorld 查看HelloWorld内容将JDK分发到slave1和slave2虚拟机执行命令:scp——r$JAVA_HOMEroot@slave1:$JAVA_home分发到slave1查看是否成功执行上一个命令在到slave2查看是否成功,让环境配置生效。

2022-11-04 08:32:37 297

原创 Linux的用户操作(第二节课)

linux用户操作第二课

2022-09-28 22:19:35 404

原创 数据清洗预处理第一课

VMware安装第一步

2022-09-17 14:29:53 114

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除