- 博客(37)
- 收藏
- 关注
原创 【并行分布计算】Hadoop伪分布搭建
yarn 是一种资源管理和作业调度技术,作为Hadoop 的核心组件之一,负责将系统资源分配给在 Hadoop 集群中运行的各种应用程序,并调度要在不同集群节点上执行的任务,其基本思想是将资源管理和作业调度/监视的功能分解为单独的 daemon,总体上yarn是 master/slave 结构,在整个资源管理框架中,ResourceManager 为 master,NodeManager 是 slaver。bin/hdfs dfs -put etc/hadoop/*.xml input(2)测试。
2025-04-17 09:58:45
337
原创 【并行分布计算】Hadoop完全分布搭建
解决方法:查看VMware上的DHCP设置中起始IP地址和结束IP地址范围,以及对应网关的IP地址,防止设置IP地址时选错IP地址范围。使子节点中的配置文件生效(hadoop02和hadoop03节点执行命令source /etc/profile)在Windows系统下,访问http://hadoop01:50070,查看HDFS集群状态。在Windows系统下,访问http://hadoop01:8088,查看Yarn集群状态。(1)修改hosts配置文件(包括三台主机)
2025-04-17 09:57:22
1117
原创 【并行分布计算】Hadoop单机分布搭建
解决方法:查看VMware上的DHCP设置中起始IP地址和结束IP地址范围,以及对应网关的IP地址,防止设置IP地址时选错IP地址范围。该例子是搜索input文件夹内所有文件,统计所有单词出现的次数,并输出在output/wordcount文件夹里。该例子是搜索input文件夹内所有文件,找到以dfs开始后面跟着字母a-z的单词,并输出在output里。(2)将hadoop目录里的etc/hadoop目录下的所有.xml结尾的文件复制到input里。(1)创建input文件夹作为方要测试的输入文件。
2025-04-17 09:55:22
585
原创 YOLO转VOC格式,解决txt多于jpg问题
当数据集中标注的txt少于jpg时,转换代码就会报错,一个一个找出多余图片很麻烦,因此对代码进行修改解决这个问题。
2023-01-31 14:05:47
343
原创 数据结构(使用头插法实现单链表)
1.线性表的链式存储就是单链表,单链表通过一组任意的存储单元来存储线性表的数据元素(逻辑相邻,存储离散),单链表对于每一个链表结点,不但存储自身数据,还开辟了存储一个指向后继结点的指针。优点解决了顺序表需要大量连续存储单元的问题,单链表的数据元素离散的分布在存储空间中。3.建立单链表可以使用头插法和尾插法两种操作,其中头插法创建的单链表数据有逆置效果。4.创建单链表可以使用头结点方便编码,也可以不使用头结点,本代码使用了头结点。4.按位查找(两种方法的区别在于返回值)1.使用头插法建立单链表。......
2022-07-20 15:43:22
7667
1
原创 数据结构(使用尾插法实现单链表)
1.线性表的链式存储就是单链表,单链表通过一组任意的存储单元来存储线性表的数据元素(逻辑相邻,存储离散),单链表对于每一个链表结点,不但存储自身数据,还开辟了存储一个指向后继结点的指针。优点解决了顺序表需要大量连续存储单元的问题,单链表的数据元素离散的分布在存储空间中。3.建立单链表可以使用头插法和尾插法两种操作,其中头插法创建的单链表数据有逆置效果。4.创建单链表可以使用头结点方便编码,也可以不使用头结点,本代码使用了头结点。缺点需要额外的存储空间存放指针域。...
2022-07-20 15:08:42
4046
原创 数据结构(使用动态分配实现顺序表)
在动态分配时,存储数组的空间实在程序执行的过程中通过动态存储分配语句分配的,一旦数据空间占满,就开辟一块更大的存储空间,用来代替原本的存储空间,这样就可以达到扩充存储数组空间的目的,不需要一次性给线性表分配所有空间。1.线性表的定义(逻辑结构)具有相同数据类型的n(n>=0)的有限个数的数据元素的有序排列。3.线性表的存储结构顺序存储(产生了顺序表),链式存储(产生了链表)2.线性表的运算(操作)创建销毁,增删改查。这里使用的是malloc函数进行动态分配。使用动态分配是实现顺序表的一种方式。...
2022-07-19 22:03:43
979
【大数据技术】Hadoop单机环境搭建及配置:CentOS7下Hadoop本地模式安装与测试
2025-04-17
【大数据技术】Hadoop全分布模式搭建与配置:网络设置、SSH免密登录及集群部署详解
2025-04-17
【大数据技术】Hadoop伪分布式环境搭建与配置:核心组件设置及运行测试Hadoop伪分布式
2025-04-17
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人