
大数据
文章平均质量分 91
恒悦sunsite
做一名专业严谨高效的基础设施运维工程师!
展开
-
Hadoop之hadoop fs命令
调用文件系统(FS)Shell命令应使用 bin/hadoop fs \<args>的形式。 所有的的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。对HDFS文件系统,scheme是hdfs,对本地文件系统,scheme是file。其中scheme和authority参数都是可选的,如果未加指定,就会使用配置中指定的默认scheme。一个HDFS文件或目录比如/parent/child可以表示成hdfs://namenode:namenodeport原创 2021-12-23 08:00:00 · 27977 阅读 · 2 评论 -
Hadoop之Hadoop命令
所有的hadoop命令均由bin/hadoop脚本引发。不指定参数运行hadoop脚本会打印所有命令的描述。实际上很多命令运行的时候虽然可以运行成功但是会有类似如下告警提示,这是因为调用文件系统的命名改为了hdfs,对hadoop文件系统的操作使用hdfs命令和hadoop命令效果是一样的,且建议使用hdfs。原创 2021-12-21 11:41:39 · 2601 阅读 · 0 评论 -
Hadoop之hadoop-mapreduce-examples测试执行及报错处理
Hadoop Map/Reduce是一个使用简易的软件框架,基于它写出来的应用程序能够运行在由上千个商用机器组成的大型集群上,并以一种可靠容错的方式并行处理上T级别的数据集。原创 2021-12-16 17:53:43 · 17495 阅读 · 8 评论 -
Hadoop之三节点集群搭建
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。Hadoop实现了一个分布式文件系统( Distributed File System),其中一个组件是HDFS(Hadoop Distributed File System)。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据原创 2021-12-09 17:29:24 · 1515 阅读 · 0 评论 -
MongoDB之centos7环境下源码编译安装
一、编译环境要求A modern C++ compiler capable of compiling C++17. One of the following is required:GCC 8.0 or newerClang 7.0 (or Apple XCode 10.0 Clang) or newerVisual Studio 2017 version 15.9 or newer (See Windows section below for details)On Linux and m原创 2020-12-17 15:04:51 · 2235 阅读 · 1 评论 -
Apache RocketMQ4之单机安装及配置
一、Apache RocketMQ简介Apache Alibaba RocketMQ 是一个消息中间件。消息中间件中有两个角色:消息生产者和消息消费者。RocketMQ 里同样有这两个概念,消息生产者负责创建消息并发送到 RocketMQ 服务器,RocketMQ 服务器会将消息持久化到磁盘,消息消费者从 RocketMQ 服务器拉取消息并提交给应用消费。RocketMQ 是一款分布式、队列模型的消息中间件,具有以下特点:支持严格的消息顺序支持 Topic 与 Queue 两种模式亿级消息堆积能原创 2020-11-27 22:51:50 · 386 阅读 · 0 评论