自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(18)
  • 收藏
  • 关注

原创 Hadoop

【代码】Hadoop。

2024-05-09 23:15:00 158 1

原创 【无标题】Hadoop

MapReduce执行流程MapTask执行流程

2024-05-09 19:01:40 568 1

原创 Hadoop

128+8),对应了4个Split(3。

2024-05-08 18:57:15 861 1

原创 Hadoop

【代码】Hadoop。

2024-05-07 17:31:12 243 1

原创 Hadoop

【代码】Hadoop。

2024-05-06 19:31:14 243 1

原创 Hadoop

hadoop fs -get /a.txt /opt/test.txt 或者 hadoop fs -copyToLocal /a.txt /opt/test.txt| 下载文件 || hadoop fs -appendToFile b.txt /a.txt | 将本地的b.txt的内容追加到HDFS的a.txt中 |1. DataNode是HDFS的从进程,负责存储数据。5. NameNode收到请求之后,会查询元数据,将这个Block的存储位置以及Block的校验信息放入队。

2024-04-29 17:28:45 535

原创 Hadoop

当扫描edits_inprogress文件的时候,发现达到指定大小(可以通过 dfs.namenode.checkpoint.txns 属性来调节,默认值是1000000,即edits_inprogress文件中记录达到1000000条)之后,会自动滚动生成edits文件。8.当达到指定条件之后,edits_inprogress文件就会产生滚动,滚动生成edits文件,同时产生一个新的edits_inprogress文件,新来的写操作记录到新的edits_inprogress文件中。

2024-04-28 17:03:44 461 1

原创 Hadoop安装

7.进入软件预安装目录,上传或者下载Hadoop安装包。3.进行主机名和IP的映射。4.关闭SELINUX。

2024-04-27 14:57:49 378 3

原创 Scala

2. 样例类对应的伴生对象中,会自动覆盖 apply 、 unapply 、 toString 、 equals 和。1. 如果一个类被声明为样例类,那么Scala在编译的时候会自动的给这个样例类生成一个伴生对。3. 也正因为样例类中会自动覆盖apply和unapply函数,所以可以参与模式匹配。2. 样例类的声明和普通类差别不大,区别在于,在 class 之前添加了 case。1. 全函数:对集合中所有的元素进行操作,例如 map , reduce 等。3. 样例类的普通类的区别。

2024-04-26 17:23:11 697 1

原创 Scala

3.reduce和fold操作。7.元组也可以形成嵌套。

2024-04-25 21:00:00 124 1

原创 Scala

4.映射中的键值对实际上就是Tuple2,Tuple2又称之为对偶元组。因此,在Scala中,Map实际上就是一个存储了多个Tuple2的数组。1.Scala中字符串同样分为可变字符串和不可变字符串,不可变字符串使用。注意:在Scala中,无论是可变集合还是不可变集合,都是使用。序列分为可变序列和不可变序列。1.键的遍历:遍历所有的键,通过键来获取值。数组、列表、字符串都属于序列的子类。1.可变集合依然使用Set来定义。来定义,可变字符串使用的是。返回就是一个Range对象。来定义,区别是可变集合是。

2024-04-25 16:46:33 215 1

原创 Scala

1. 在Scala中,通过 List 来定义不可变列表,需要注意的是,List本身是一个抽象类,所以并不能直。1. 可变数组,类似于Java中的 ArrayList ,长度可以发生变化,并且可以对数组中的元素来进行增。如果增删元素,那么会产生一个新。1. 所谓的不可变集合,指的是集合被创建好之后,长度不可变,且其中的元素也不能改变。2. 所谓的可变集合,指的是集合创建好之后,依然可以对元素进行增删操作,并且不会产生新。果对不可变集合中的元素进行增删操作,那么不会改变原集合,而是会产生一个新的集合。

2024-04-23 18:58:47 277

原创 Scala

门完全面向对象的语言,认为静态是不合理的,因为静态和对象是无关的,Scala就认为 static。名的object(伴生对象),定义在伴生对象中的属性和函数,在编译之后会自动变成静态的。1. 自身类型,指的是在另一个类或者特质中指定一个其他类型,那么这个类或者这个特质的子类或者。1. 当一个类中有多个固定个数的实例,并且可以一一列举的时候 ,可以定义为枚举。2. 被修饰的类或者特质参与模式匹配的时候,那么会进行检查,如果没有罗列所有的情况,那。2. Scala中,抽象类中还可以定义抽象属性!

2024-04-23 18:43:21 671

原创 Scala

同样,Scala支持类和类之间的单继承而不是多继承,子类同样可以通过继承来使用父类中的部分方法或者属性。4. Scala中的 protected 比Java中更严格,只能在本类中和子类中使用,同包类和其他类中不能使用。1. 在Scala中,依然是通过 import 来导入包,但是Scala中,导包语句可以书写在任何地方。在同一个包中的所有的类都可以访问同名包对象中的函数和属性。4. 多态:包含了对象的多态(向上造型)和行为的多态(方法的重载和重写)2. 封装:Scala中,提供了对象的封装和函数的封装。

2024-04-21 10:00:00 225 1

原创 Scala

1. 在函数的返回值之前用 lazy 来修饰,这个函数就会被推迟执行,直到结果被使用的时候,函数才会执行,这个过程就称之为懒加载,或者惰性加载。1. 在Scala中,没有构造函数的说法,取而代之的是构造器。Scala中,构造器可以定义多个,分为主构造器和辅构造器。1. 柯里化指的是将多个参数的函数变成接收单一参数的过程。1. 在Scala中,通过 class 来定义类。2. 主构造器的结构。

2024-04-20 10:09:10 166

原创 Scala

1. Scala中,也是通过函数名(参数)的形式来调用函数,但是Scala提供了省略调用和带名调用。1. 闭包,指的是一个函数,如果访问了外部变量的值,那么此时这个函数以及它所处的函数,构成了。1. 当一个函数的参数是另一个函数,或者返回值是另一个函数的时候,这个函数就是高阶函数。2. Scala中,函数可以定义在任何位置,即函数可以定义在类或者函数内。2. 省略调用:如果函数没有参数,那么在调用函数的时候可以省略()不写。1. 所谓可变参数,指的是在调用函数的时候,参数个数可以变化。

2024-04-20 09:56:34 194

原创 Scala基础

1. 在Scala中所有的结构都应该有计算结果,因此循环也必须有计算结果。果类型只能是Unit,而for循环默认的结果类型也是Unit,但是for循环可以通过 yield 关键字将计。2. 对于continue而言,Scala就认为可以通过条件判断来实现相同的效果,因此没有必要添加。2. 当在循环中直接嵌套了一个判断结构的时候,那么此时可以将判断条件紧跟循环来执行,当满足判。1. 类似于循环守卫式和循环嵌套,for循环还支持变量的引入。断条件的时候,才能进入循环执行,构成了循环守卫式。

2024-04-18 18:43:54 255

原创 Scala入门

1. 在Java中,基本类型、static等都不符合面向对象的规则。Scala作为一门完全面向对象的语言,不 支持基本类型、static等2. 在Scala中,提供了公共父类: Any ,即所有的类都是 Any 的子类1. Any下分为了两个大的子类: AnyVal (任意数值)和 AnyRef (任意引用)。无论 AnyVal 还是 AnyRef 都是类2. AnyVal 包含了常用的数据类型。

2024-04-17 19:05:16 361 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除