使用Apache Spark构建实时分析Dashboard

最新推荐文章于 2023-05-26 16:51:27 发布

weixin_33720956

最新推荐文章于 2023-05-26 16:51:27 发布

阅读量51

点赞数

文章标签： javascript json git ViewUI

本文链接：https://blog.csdn.net/weixin_33720956/article/details/89143773

版权

本篇博文中（Building Real-Time Analytics Dashboard Using Apache Spark，作者：Abhinav Singh，Sandeep Giri），我们将学习如何使用Apache Spark streaming，Kafka，Node.js，Socket.IO和Highcharts构建实时分析Dashboard。

问题描述

电子商务门户（http://www.aaaa.com）希望构建一个实时分析仪表盘，对每分钟发货的订单数量做到可视化，从而优化物流的效率。

解决方案

解决方案之前，先快速看看我们将使用的工具：
Apache Spark – 一个通用的大规模数据快速处理引擎。Spark的批处理速度比Hadoop MapReduce快近10倍，而内存中的数据分析速度则快近100倍。更多关于Apache Spark的信息。

Python – Python是一种广泛使用的高级，通用，解释，动态编程语言。更多关于Python的信息。

Kafka – 一个高吞吐量，分布式消息发布订阅系统。更多关于Kafka的信息。

Node.js – 基于事件驱动的I/O服务器端JavaScript环境，运行在V8引擎上。更多关于Node.js的信息。

Socket.io – Socket.IO是一个构建实时Web应用程序的JavaScript库。它支持Web客户端和服务器之间的实时、双向通信。更多关于Socket.io的信息。

Highcharts – 网页上交互式JavaScript图表。更多关于Highcharts的信息。

CloudxLab – 提供一个真实的基于云的环境，用于练习和学习各种工具。你可以通过在线注册立即开始练习。

如何构建数据Pipeline?

下面是数据Pipeline高层架构图

(点击放大图像)

数据Pipeline

实时分析Dashboard

让我们从数据Pipeline中的每个阶段的描述开始，并完成解决方案的构建。

阶段1

当客户购买系统中的物品或订单管理系统中的订单状态变化时，相应的订单ID以及订单状态和时间将被推送到相应的Kafka主题中。

数据集

由于没有真实的在线电子商务门户网站，我们准备用CSV文件的数据集来模拟。让我们看看数据集：

\DateTime, OrderId, Status\2016-07-13 14:20:33,xxxxx-xxx,processing\2016-07-13 14:20:34,xxxxx-xxx,shipped\2016-07-13 14:20:35,xxxxx-xxx,delivered

数据集包含三列分别是：“DateTime”、“OrderId”和“Status”。数据集中的每一行表示特定时间时订单的状态。这里我们用“xxxxx-xxx”代表订单ID。我们只对每分钟发货的订单数感兴趣，所以不需要实际的订单ID。

可以从CloudxLab GitHub仓库克隆完整的解决方案的源代码和数据集。
\数据集位于项目的spark-streaming/data/order_data文件夹中。

推送数据集到Kafka

shell脚本将从这些CSV文件中分别获取每一行并推送到Kafka。推送完一个CSV文件到Kafka之后，需要等待1分钟再推送下一个CSV文件，这样可以模拟实时电子商务门户环境，这个环境中的订单状态是以不同的时间间隔更新的。在现实世界的情况下，当订单状态改变时，相应的订单详细信息会被推送到Kafka。

运行我们的shell脚本将数据推送到Kafka主题中。登录到CloudxLab Web控制台并运行以下命令。

\# Clone the repository\\git clone https://github.com/singhabhinav/cloudxlab.git\\# Create the order-data topic in Kafka\\export PATH=$PATH:/usr/hdp/current/kafka-broker/bin\kafka-topics.sh --create --zookeeper localhost:2181 \--replication-factor 1 --partitions 1 --topic order-data\\# Go to Kafka directory\\cd cloudxlab/spark-streaming/kafka\\# Run the Script for pushing data to Kafka topic \# ip-172-31-13-154.ec2.internal is the hostname of broker.\# Find list of brokers in Ambari (a.cloudxlab.com:8080). \# Use hostname of any one of the brokers\# order-data is the Kafka topic\\/bin/bash put_order_data_in_topic.sh ../data/order_data/ \ip-172-31-13-154.ec2.internal:6667 order-data\\# Script will push CSV files one by one to Kafka topic \after every one minute interval\\# Let the script run. Do not close the terminal

阶段2

在第1阶段后，Kafka“order-data”主题中的每个消息都将如下所示

\2016-07-13 14:20:33,xxxxx-xxx,processing

阶段3

Spark streaming代码将在60秒的时间窗口中从“order-data”的Kafka主题获取数据并处理，这样就能在该60秒时间窗口中为每种状态的订单计数。处理后，每种状态订单的总计数被推送到“order-one-min-data”的Kafka主题中。

请在Web控制台中运行这些Spark streaming代码

\# Login to CloudxLab web console in the second tab\\# Create order-one-min-data Kafka topic \\export PATH=$PATH:/usr/hdp/current/kafka-broker/bin\kafka-topics.sh --create --zookeeper localhost:2181 \--replication-factor 1 --partitions 1 --topic order-one-min-data\\# Go to spark directory\\cd cloudxlab/spark-streaming/spark\\# Run the Spark Streaming code\\spark-submit --jars spark-streaming-kafka-assembly_2.10-1.6.0.jar \spark_streaming_order_status.py localhost:2181 order-data\\# Let the script run. Do not close the terminal

阶段4

在这个阶段，Kafka主题“order-one-min-data”中的每个消息都将类似于以下JSON字符串

\{\    \"shipped\": 657,\    \"processing\": 987,\    \"delivered\": 1024\}

阶段5

运行Node.js server

现在我们将运行一个node.js服务器来使用“order-one-min-data”Kafka主题的消息，并将其推送到Web浏览器，这样就可以在Web浏览器中显示出每分钟发货的订单数量。

请在Web控制台中运行以下命令以启动node.js服务器

\# Login to CloudxLab web console in the third tab\\# Go to node directory \\cd cloudxlab/spark-streaming/node\\# Install dependencies as specified in package.json\\npm install\\# Run the node server\\node index.js\\# Let the server run. Do not close the terminal

现在node服务器将运行在端口3001上。如果在启动node服务器时出现“EADDRINUSE”错误，请编辑index.js文件并将端口依次更改为3002...3003...3004等。请使用3001-3010范围内的任意可用端口来运行node服务器。

用浏览器访问

启动node服务器后，请转到http://YOUR_WEB_CONSOLE:PORT_NUMBER访问实时分析Dashboard。如果您的Web控制台是f.cloudxlab.com，并且node服务器正在端口3002上运行，请转到http://f.cloudxlab.com:3002访问Dashboard。

当我们访问上面的URL时，socket.io-client库被加载到浏览器，它会开启服务器和浏览器之间的双向通信信道。