hadoop大数据实践_刘锋的博客

最新推荐文章于 2024-05-23 20:31:41 发布
最新推荐文章于 2024-05-23 20:31:41 发布
阅读量848 收藏 7
点赞数
文章标签： hadoop 大数据 hdfs java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jiu_mu_mu/article/details/117925628
版权

文章目录

hadoop大数据

一、hadoop连不上网解决：

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

重启虚拟机即可。

二、Xshell6连接

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

连接成功！

三、启动服务

重新编辑本机的hosts文件

sudu vim /etc/hosts

在这里插入图片描述

按insert进入编辑模式

在这里插入图片描述

完成修改

在这里插入图片描述

按esc键，退出

:wq 保存

在这里插入图片描述

查看是否修改成功：cat /etc/hosts

在这里插入图片描述

cd ~ 回车

ls

pwd 当前目录

cd … 退回上一级目录

在这里插入图片描述

cd app

ls

在这里插入图片描述

cd hadoop-2.6.0-cdh5.7.0/

ls

在这里插入图片描述

cd sbin

ls

在这里插入图片描述

./start-dfs.sh

在这里插入图片描述

连接成功

在这里插入图片描述

jps 查看进程

在这里插入图片描述

测试连接

用浏览器访问：http://192.168.234.128:50070/

出现这个页面就表示成功

在这里插入图片描述

4、hdfs的shell操作

hadoop fs 设置环境变量

在这里插入图片描述

相关的命令：

hadoop fs -ls /

在这里插入图片描述

在这里插入图片描述

touch taigongyuan.txt 在本机创建一个文件

vim taigongyuan.txt 写文件内容

cat taigongyuan.txt 查看文件内容

hadoop fs -mkdir -p /hadooptaiyuan/test 在hadoop创建一个文件夹

在这里插入图片描述

将本地创建的文件传入Hadoop中

hadoop fs -put taigongyuan.txt /hadooptaiyuan/test

在这里插入图片描述

查看hadoop中的文件中的内容

hadoop fs -cat /hadooptaiyuan/test/taigongyuan.txt

在这里插入图片描述

将hadoop的文件的下载到本地，并且命名为haha.txt

hadoop fs -get /hadooptaiyuan/test/taigongyuan.txt haha.txt

在这里插入图片描述

将文件移动一个位置

hadoop fs -mv /hadooptaiyuan/test/taigongyuan.txt /user 我这里是移动到user目录下面

在这里插入图片描述

删除一个文件

hadoop fs -rm /user/taigongyuan.txt

在这里插入图片描述

五、使用java去操纵hdfs

首先新建一个maven项目

添加maven依赖

<dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-client</artifactId>
    <version>2.6.0</version>
</dependency>

新建测试类

private Configuration configuration = null;
private static final String HDFS_PATH = "hdfs://192.168.234.128:8020";

/**
 * java连接hdfs首先需要建立一个连接
 */
@Before
public void setUp() {
    System.out.println("开启连接");
    configuration = new Configuration();
}

/**
 * 释放资源
 */
@After
public void tearDown() {
    System.out.println("关闭连接");
    configuration = null;
}
1、新建一个文件夹
	/**
     * 新建文件夹
     */
    @Test
    public void mkdir() {
        FileSystem fileSystem = null;
        try {
            fileSystem = FileSystem.get(new URI(HDFS_PATH), configuration, "hadoop");
            fileSystem.mkdirs(new Path("/liufeng666/test1"));
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (fileSystem != null) {
                try {
                    fileSystem.close();
                } catch (IOException e) {
                    e.printStackTrace();
                }
            }
        }
    }

在这里插入图片描述

2、创建文件
@Test
public void create() {
    FileSystem fileSystem = null;
    FSDataOutputStream fsDataOutputStream = null;
    try {
        fileSystem = FileSystem.get(new URI(HDFS_PATH), configuration, "hadoop");
        fsDataOutputStream = fileSystem.create(new Path("/liufeng666/test1/hello.txt"));
        fsDataOutputStream.write("hello liufeng jisuanji".getBytes());
        fsDataOutputStream.flush();

    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        if (fileSystem != null) {
            try {
                fileSystem.close();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
        if (fsDataOutputStream != null) {
            try {
                fsDataOutputStream.close();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }
}
3、重命名文件
/**
 * 重命名文件
 */
@Test
public void rename() {
    FileSystem fileSystem = null;
    Path oldPath = new Path("/liufeng666/test1/hello.txt");
    Path newPath = new Path("/liufeng666/test1/hehe.txt");
    try {
        fileSystem = FileSystem.get(new URI(HDFS_PATH), configuration, "hadoop");
        fileSystem.rename(oldPath, newPath);

    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        if (fileSystem != null) {
            try {
                fileSystem.close();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }
}
4、查看文件
/**
 * 查看文件
 */
@Test
public void cat() {
    FileSystem fileSystem = null;
    Path path = new Path("/liufeng666/test1/hehe.txt");
    try {
        fileSystem = FileSystem.get(new URI(HDFS_PATH), configuration, "hadoop");
        FSDataInputStream is = fileSystem.open(path);
        IOUtils.copyBytes(is, System.out, 1024);
        is.close();

    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        if (fileSystem != null) {
            try {
                fileSystem.close();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }
}
5、上传文件
/**
 * 上传文件
 */
@Test
public void uplode() {
    FileSystem fileSystem = null;
    Path localPath = new Path("src/jiachenxia.pdf");
    Path path = new Path("/liufeng666/test1");
    try {
        fileSystem = FileSystem.get(new URI(HDFS_PATH), configuration, "hadoop");
        fileSystem.copyFromLocalFile(localPath, path);

    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        if (fileSystem != null) {
            try {
                fileSystem.close();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }
}
6、下载文件
/**
 * 下载文件
 */
@Test
public void download() {
    FileSystem fileSystem = null;
    Path hdfspath = new Path("/liufeng666/test1/jiachenxia.pdf");
    Path localPath = new Path("src/download/jiachenxia.pdf");

    try {
        fileSystem = FileSystem.get(new URI(HDFS_PATH), configuration, "hadoop");
        fileSystem.copyToLocalFile(false, hdfspath, localPath, true);

    } catch (Exception e) {
        e.printStackTrace();
    } finally {
        if (fileSystem != null) {
            try {
                fileSystem.close();
            } catch (IOException e) {
                e.printStackTrace();
            }
        }
    }
}

六、可视化yarn和MapReauce

词频统计案例

1、先停止hadoop

./stop-dfs.sh

2、启动所有

./start-all.sh

在这里插入图片描述

3、输入访问8088端口

在这里插入图片描述

实现代码
 /**
     * map阶段
     */
    public static class MyMapper extends Mapper<LongWritable, Text, Text, LongWritable> {
        LongWritable one = new LongWritable(1);

        @Override
        protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException {
            // 分
            String line = value.toString();
            // 拆分
            String[] s = line.split(" ");
            for (String word : s) {
                // 输出
                context.write(new Text(word), one);
            }
        }
    }

/**
     * reduce阶段
     */

    public static class MyReduce extends Reducer<Text, LongWritable, Text, LongWritable> {
        @Override
        protected void reduce(Text key, Iterable<LongWritable> values, Context context) throws IOException, InterruptedException {
            long sum = 0;
            // 合并统计
            for (LongWritable value : values) {
                sum += value.get();
            }
            context.write(key, new LongWritable(sum));
        }
    }

 public static void main(String[] args) throws Exception {
        Configuration configuration = new Configuration();
        Job job = Job.getInstance(configuration, "wordcount");
        job.setJarByClass(WordCountApp.class);

        FileInputFormat.setInputPaths(job, new Path(args[0]));
        job.setMapperClass(MyMapper.class);
        job.setMapOutputKeyClass(Text.class);
        job.setMapOutputValueClass(LongWritable.class);

        job.setReducerClass(MyReduce.class);

        Path outPath = new Path(args[1]);
        FileSystem fileSystem = FileSystem.get(configuration);

        if (fileSystem.exists(outPath)) {
            // 删除文件
            fileSystem.delete(outPath, true);
            System.out.println("输出路径存在，已经被我删除了");
        }

        FileOutputFormat.setOutputPath(job, outPath);


        // 控制台输出详细的信息
        System.out.println(job.waitForCompletion(true) ? 0 : 1);
    }
打包

在这里插入图片描述

放进hadoop中

在这里插入图片描述

运行jar

hadoop jar Desktop/bigdate-1.0-SNAPSHOT.jar neusoft.WordCountApp hdfs://hadoop000:8020/liufeng.txt hdfs://hadoop000:8020/output/wc

在这里插入图片描述

在这里插入图片描述

查看文件内容

hadoop fs -cat /output/wc/part-r-00000

在这里插入图片描述

七、ECharts

首先创建一个html

引入ECharts的js文件

<script src="https://cdn.staticfile.org/echarts/4.3.0/echarts.min.js"></script>

为ECharts准备一个具备大小（宽高）的Dom

<div id="main" style="width: 600px;height:400px;">

</div>

柱状图

<script>
    var main = document.getElementById("main");
    var myChart = echarts.init(main);
    // 绘制图表
    var option = myChart.setOption({
        title: {
            text: 'ECharts '
        },
        tooltip: {},
        xAxis: {
            data: ['衬衫', '羊毛衫', '雪纺衫', '裤子', '高跟鞋', '袜子']
        },
        yAxis: {},
        series: [{
            name: '销量',
            type: 'bar',
            data: [5, 20, 36, 10, 10, 20]
        }]
    });

    myChart.setOption(option);
</script>

在这里插入图片描述

饼图

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <title>Title</title>
    <script src="https://cdn.staticfile.org/echarts/4.3.0/echarts.min.js"></script>
    <!-- 引入主题 -->
    <script src="https://www.runoob.com/static/js/wonderland.js"></script>
</head>
<body>
<!-- 为ECharts准备一个具备大小（宽高）的Dom -->
<div id="main" style="width: 600px;height:400px;">

</div>
<script>
    var main = document.getElementById("main");
    var myChart = echarts.init(main, 'dark');
    // 绘制图表
    var option = myChart.setOption({
            title: {
                text: '饼图'
            }
            ,
            // 工具箱

            show: true,
            legend: {
                orient: 'vertical',
                left: 'right',
                data: ['视频广告', '联盟广告', '邮件营销', '直接访问', '搜索引擎']
            },
            tooltip: {
                trigger: 'item',
                formatter: "{a} <br/>{b} : {c} ({d}%)"
            },

            series: [
                {
                    name: '访问来源',
                    type: 'pie',    // 设置图表类型为饼图
                    radius: '75%',  // 饼图的半径，外半径为可视区尺寸（容器高宽中较小一项）的 55% 长度。
                    data: [          // 数据数组，name 为数据项名称，value 为数据项值
                        {value: 235, name: '视频广告'},
                        {value: 274, name: '联盟广告'},
                        {value: 310, name: '邮件营销'},
                        {value: 335, name: '直接访问'},
                        {value: 400, name: '搜索引擎'}
                    ]
                }
            ]

        })
    ;
</script>
</body>
</html>
刘沐Mu
关注
  • 0
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
大数据Hadoop实战篇
需要远程指导仿真实验、代码有问题的，请后台私信或者关注公众号
06-04 6703
大数据Hadoop实战，10分钟带你入门Hadoop，手把手教你搭建分布式集群系统
分布式计算开源框架Hadoop入门实践
热门推荐
放翁（文初）的一亩三分地
08-29 3万+
Author :岑文初Email: wenchu.cenwc@alibaba-inc.commsn: cenwenchu_79@hotmail.comblog: http://blog.csdn.net/cenwenchu79/ 引... 2What is Hadoop. 2Why is hadoop. 6How to Use Hadoop & Tips 7环境
HDFS编程实践(Hadoop3.1.3)
最後の後悔的博客
04-16 4247
Hadoop 分布式文件系统是Hadoop核心组件之一。介绍Linux操作系统中关于HDFS文件操作的常用Shell命令，利用Web界面查看和管理Hadoop文件系统，以及利用Hadoop提供的Java API进行基本的文件操作。 解决File hdfs://localhost:9000/user/hadoop does not exist 解决Call From Master/10.13.236,141 to localhost:9000 failed on connection exception:
02--大数据Hadoop集群实战
最新发布
qq_43387908的博客
05-23 1612
完全分布式需要配置的内容都写在这里了，需要时可复制粘贴使用，第二代hadoop基本可以覆盖
Hadoop-深入实践（一）
coding乐园
07-04 1335
1. 大数据概念 无法再一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。 =海量数据+复杂类型的数据 2. 核心特征 数据量大 类型繁多 价值密度低 速度快时效高 3. 大数据处理平台 离线处理平台 交互式处理平台 流处理平台 4.大数据技术路线图 5. Hadoop 定义 Apache开源软件基金会开发的运行于大规模服务器上的大数据存...
Hadoop编程实践
aaaadioppa的博客
12-14 3770
以下是我云计算实验的作业，完成作业的过程中碰到了许多问题，但是最后都一一解决了，这个过程蛮痛苦的，但是完成的一瞬间如释重负，有问题欢迎大家与我交流！ 一、题目要求及说明 （1）每人在自己本地电脑上正确安装和运行伪分布式Hadoop系统。 （2）安装完成后，自己寻找一组英文网页数据，在本机上运行Hadoop系统自带的WordCount可执行程序文件，并产生输出结果。 （3）实现并测试矩阵相乘程序（选做） 二、操作过程及代码 1、安装虚拟机软件VMware Workstation，并进入网址http
【Hadoop】 实践总结
dzxdzx341224的博客
03-03 1210
本文将以离线批处理大数据为例，演示简单的Hadoop流程，不作过多理论概念介绍。具体内容具体可分为：1、文件导入Hdfs；2、MapReduce作业；3、Hive建模；4、Sqoop数据抽取。
Hadoop大数据开发基础.rar
10-14
文档为PPT，与百度文库里的Hadoop大数据开发基础为一套，里面内容相对比较基础~可做基础学习资料PPT。 【实例截图】 【核心代码】 Hadoop大数据开发基础-PPT课件 └── 37066-Hadoop大数据开发基础-PPT课件 ├── ...
Hadoop数据分析_大数据_hadoop_数据分析_
10-01
在大数据的世界里，Hadoop是不可或缺的一个核心组件，它为海量数据处理提供了高效、可靠的解决方案。本主题将深入探讨Hadoop在数据分析中的应用及其生态系统的关键技术。 首先，我们需要理解“大数据”的概念。...
hadoop大数据课程设计
06-15
【标题】"hadoop大数据课程设计"涉及到的核心技术是Hadoop，这是一个开源的分布式计算框架，主要用于处理和存储海量数据。Hadoop的核心组件包括HDFS（Hadoop Distributed File System）和MapReduce，前者提供高容错...
Hadoop大数据开发基础_教案.rar
07-04
《Hadoop大数据开发基础》教程主要涵盖了大数据处理领域中的核心框架——Hadoop的全面学习。这份教案详尽地讲解了从Hadoop的基本概念到实际项目应用的各个环节，旨在帮助初学者掌握Hadoop的大数据处理能力。 第一章...
HADOOP课件_大数据_hadoop_
10-02
标题中的“HADOOP课件_大数据_hadoop_”表明这是一份关于Hadoop和大数据技术的课程资料，其中可能涵盖了Hadoop生态系统的核心组件以及大数据处理的相关知识。Hadoop是Apache基金会开发的一个开源框架，主要用于...
Hadoop实践操作经验
PassionZheng的博客
04-29 504
文章目录一.HDFS存储多目录二.Hadoop支持LZO压缩配置1.hadoop-lzo编译2.Hadoop配置3.LZO创建索引三.Hadoop基准测试：HDFS压力测试1.测试HDFS写性能2.测试HDFS读性能3.使用Sort程序评测MapReduce四.Hadoop参数调优1.HDFS参数调优:hdfs-site.xml2.YARN参数调优:yarn-site.xml3.Hadoop宕机 ...
大数据项目实战（Hadoop集群搭建）
qq_68383591的博客
08-25 2057
2、百度网盘链接：https://pan.baidu.com/s/1AkJCiEuxdkG_t-PfumbQDQ?②百度网盘链接：https://pan.baidu.com/s/1AkJCiEuxdkG_t-PfumbQDQ?(2)修改hadoop-env.sh配置文件。安装了防火墙，查看防火墙显示的是这个页面。系统重新启动后，防火墙将重新打开。只在hadoop01里面输入，(自己手敲吧，注意别错了哈)(自己手敲吧，注意别错了哈)（注意目录和版本名称）(注意jdk的版本名称)(1)复制模板并重命名。
【Hadoop】大数据分析实战：Hadoop生态圈全家桶入门教程
sinner小屋
05-23 1398
随着互联网的发展，数据量不断增加，大数据已经成为一种趋势。大数据指的是数据量非常大、类型繁多的数据集合。这些数据集合需要使用特定的技术和工具进行处理和分析。Hadoop生态圈是由Apache基金会开发和维护的一系列开源软件组成的大数据处理框架。Hadoop生态圈包括HDFS、MapReduce、YARN、Hive、Pig、Spark等组件，提供了大规模数据存储、处理和分析等功能。Hadoop生态圈是大数据处理领域的标准。学习Hadoop生态圈可以帮助我们掌握大数据存储、处理、分析和机器学习等技能。
Hadoop的数据管理
轻轻草原
12-10 112
本文主要介绍Hadoop的数据管理，主要包括Hadoop的分布式文件系统HDFS、分布式数据库HBase和数据仓库工具Hive。 HDFS的数据管理 HDFS是分布式计算的存储基石，Hadoop分布式文件系统和其他分布式文件系统有很多类似的特性： 对于整个集群有单一的命名空间； 具有数据一致性，都适合一次写入多次读取的模型，客户端在文件没有被成功创建之前是无法看到文件存在的； 文件会被分割...
《大数据项目实战》分析及可视化
m0_56525833的博客
03-17 2308
数据分析迁移可视化
hadoop实战（综合实验）
weixin_55089394的博客
12-14 1684
实验过程记录，由于实验冗长，仅保留关键步骤
Hadoop项目实战---1
weixin_44295572的博客
03-28 207
SpringBoot：2.0版本以上。Selenium：4.0版本以上。Mysql：5.7以上。
Hadoop大数据集群搭建详解：理论与实践指南
《基于Hadoop大数据集群的搭建》是一篇针对计算机科学与技术、软件工程专业本科专科毕业生的原创学位毕业论文，作者从Hadoop的崛起背景出发，详细阐述了这个开源框架在大数据处理和分析领域的关键角色。论文的重点...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值