数据仓库之电商数仓-- 4、可视化报表Superset

-----------------------------------------------------分隔符-----------------------------------------------------
数据仓库之电商数仓-- 1、用户行为数据采集==>
数据仓库之电商数仓-- 2、业务数据采集平台==>
数据仓库之电商数仓-- 3.1、电商数据仓库系统(DIM层、ODS层、DWD层)==>
数据仓库之电商数仓-- 3.2、电商数据仓库系统(DWS层)==>
数据仓库之电商数仓-- 3.3、电商数据仓库系统(DWT层)==>
数据仓库之电商数仓-- 3.4、电商数据仓库系统(ADS层)==>
数据仓库之电商数仓-- 4、可视化报表Superset==>
数据仓库之电商数仓-- 5、即席查询Kylin==>

一、Superset入门

1.1 Superset概述

Apache Superset是一个开源的、现代的、轻量级BI分析工具，能够对接多种数据源、拥有丰富的图表展示形式、支持自定义仪表盘，且拥有友好的用户界面，十分易用。

1.2 Superset应用场景

由于Superset能够对接常用的大数据分析工具，如Hive、Kylin、Druid等，且支持自定义仪表盘，故可作为数仓的可视化工具。

二、Superset安装及使用

Superset官网地址：http://superset.apache.org/

2.1 安装Python环境

Superset是由Python语言编写的Web应用，要求Python3.7的环境。

2.1.1 安装Miniconda

conda是一个开源的包、环境管理器，可以用于在同一个机器上安装不同Python版本的软件包及其依赖，并能够在不同的Python环境之间切换，Anaconda包括Conda、Python以及一大堆安装好的工具包，比如：numpy、pandas等，Miniconda包括Conda、Python。

此处不需这些工具包，选择MiniConda。

下载Miniconda（Python3版本）
下载地址：https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

安装Miniconda

1. 执行以下命令进行安装，并按照提示操作，直到安装完成:

[xiaobai@hadoop102 superset]$ bash Miniconda3-latest-Linux-x86_64.sh

2. 出现以下提示表明安装成功：
   
   source环境变量配置文件
3. miniconda安装完成后会在根目录下的.bashrc文件里自动添加家目录到path，如图：

[xiaobai@hadoop102 ~]$ vim .bashrc 

但仍需加载环境变量配置文件，使之生效：

[xiaobai@hadoop102 ~]$ source .bashrc 

取消激活base环境

(base) [xiaobai@hadoop102 ~]$ conda config --set auto_activate_base false

2.1.2 创建Python3.7环境

1. 配置conda国内镜像：

[xiaobai@hadoop102 ~]$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
[xiaobai@hadoop102 ~]$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
[xiaobai@hadoop102 ~]$ conda config --set show_channel_urls yes

重置源配置：

conda config --remove-key channels 

查看源配置：

[xiaobai@hadoop102 ~]$ cat ~/.condarc

2. 创建Python3.7环境：

[xiaobai@hadoop102 ~]$ conda create --name superset phthon=3.7

tips: ⭐️
conda环境管理常用命令：
创建环境：conda create -n env_name
查看所有环境：conda info --envs
删除一个环境：conda remove -n env_name --all

3. 激活superset环境：

conda activate superset

退出当前环境：

conda deactivate

激活后：

(superset) [xiaobai@hadoop102 ~]$ 

注⚠️：
这里使用base环境也可以，但若是多环境，需切换之superset环境！

2.2 Superset部署

2.2.1 安装依赖

安装Superset之前，需安装以下所需依赖：

(superset) [xiaobai@hadoop102 ~]$ sudo yum install -y gcc gcc-c++ libffi-devel python-devel python-pip python-wheel python-setuptools openssl-devel cyrus-sasl-devel openldap-devel

2.2.2 安装superset

1. 安装(更新)setuptools和pip：

(superset) [xiaobai@hadoop102 ~]$ pip install --upgrade setuptools pip -i https://pypi.douban.com/simple/

注：pip是python的包管理工具，类似centos中的yum；

2. 安装superset：

(superset) [xiaobai@hadoop102 ~]$ pip install apache-superset -i https://pypi.douban.com/simple/

或

pip install apache-superset --trusted-host https://repo.huaweicloud.com -i https://repo.huaweicloud.com/repository/pypi/simple

注：-i的作用是指定镜像，此处选择国内镜像；

3. 初始化superset数据库：

(superset) [xiaobai@hadoop102 ~]$ superset db upgrade

4. 创建管理员用户：

(superset) [xiaobai@hadoop102 ~]$ export FLASK_APP=superset
(superset) [xiaobai@hadoop102 ~]$ superset fab create-admin

注：flask是一个python web框架，Superset使用的就是flask

5. 初始化superset：

(superset) [xiaobai@hadoop102 ~]$ superset init

2.2.3 启动superset

1. 安装gunicorn：

pip install gunicorn -i https://pypi.douban.com/simple/

注：gunicorn是一个Python Web Server，类似java中的TomCat；

2. 启动后superset：

(superset) [xiaobai@hadoop102 ~]$ gunicorn --workers 5 --timeout 120 --bind hadoop102:8787  "superset.app:create_app()" --daemon 

注： 需确保当前conda环境为superset环境！

–workers：指定进程个数；
–timeout：worker进程超时时间，超时会自动重启；
–bind：绑定本机地址，即为Superset访问地址；
–daemon：后台运行；

3. 登录superset：
   访问 http://hadoop102:8787 使用管理员账户进行登录。

4. 停止superset：

ps -ef | awk '/superset/ && !/awk/{print $2}' | xargs kill -9

退出superset环境：

conda deactivate

2.2.4 superset启停脚本

1. 在/home/xiaobai/bin目录下创建superset.sh问价：

[xiaobai@hadoop103 bin]$ vim superset.sh

#!/bin/bash

superset_status(){
    result=`ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | wc -l`
    if [[ $result -eq 0 ]]; then
        return 0
    else
        return 1
    fi
}
superset_start(){
        source ~/.bashrc
        superset_status >/dev/null 2>&1
        if [[ $? -eq 0 ]]; then
            conda activate superset ; gunicorn --workers 5 --timeout 120 --bind hadoop102:8787 --daemon 'superset.app:create_app()'
        else
            echo "superset正在运行"
        fi

}

superset_stop(){
    superset_status >/dev/null 2>&1
    if [[ $? -eq 0 ]]; then
        echo "superset未在运行"
    else
        ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
    fi
}


case $1 in
    start )
        echo "启动Superset"
        superset_start
    ;;
    stop )
        echo "停止Superset"
        superset_stop
    ;;
    restart )
        echo "重启Superset"
        superset_stop
        superset_start
    ;;
    status )
        superset_status >/dev/null 2>&1
        if [[ $? -eq 0 ]]; then
            echo "superset未在运行"
        else
            echo "superset正在运行"
        fi
esac

2. 权限：

chmod +x superset.sh

3. 测试执行
   启动superset：

[xiaobai@hadoop102 bin]$ superset.sh start

停止superset：

[xiaobai@hadoop102 bin]$ superset.sh stop

到这虚拟机崩溃了！g