1、Superset入门
1.1、Superset概述
Apache Superset是一个现代的数据探索和可视化平台。它功能强大且十分易用,可对接各种数据源,包括很多现代的大数据分析引擎,拥有丰富的图表展示形式,并且支持自定义仪表盘。
1.2、环境说明
本课程使用的服务器操作系统为CentOS 7,Superset对接的数据源为MySQL数据库。
2、Superset安装
Superset官网地址:http://superset.apache.org/
2.1、安装Python环境
Superset是由Python语言编写的Web应用,要求Python3.7以上的环境。
2.1.1、安装Miniconda
conda是一个开源的包、环境管理器,可以用于在同一个机器上安装不同Python版本的软件包及其依赖,并能够在不同的Python环境之间切换,Anaconda包括Conda、Python以及一大堆安装好的工具包,比如:numpy、pandas等,Miniconda包括Conda、Python。
此处,我们不需要如此多的工具包,故选择MiniConda。
1)下载Miniconda(Python3版本)
下载地址:https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
2)安装Miniconda
(1)执行以下命令进行安装,并按照提示操作,直到安装完成。
[kingjw@hadoop102 lib]$ bash Miniconda3-latest-Linux-x86_64.sh
(2)在安装过程中,出现以下提示时,可以指定安装路径 /opt/module/miniconda3
Miniconda3 will now be installed into this location:/home/kingjw/miniconda3
- Press ENTER to confirm the location
- Press CTRL-C to abort the installation
- Or specify a different location below
[/home/kingjw/miniconda3] >>> /opt/module/miniconda3
(3)出现以下字样,即为安装完成
Thank you for installing Miniconda3!
3)加载环境变量配置文件,使之生效
[kingjw@hadoop102 lib]$ source ~/.bashrc
4)取消激活base环境
Miniconda安装完成后,每次打开终端都会激活其默认的base环境,我们可通过以下命令,禁止激活默认base环境。
[kingjw@hadoop102 lib]$ conda config --set auto_activate_base false
2.1.2、创建Python3.8环境
1)配置conda国内镜像(此处可不配置,国外镜像比清华镜像更快)
(base) [kingjw@hadoop102 ~]$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
(base) [kingjw@hadoop102 ~]$ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
(base) [kingjw@hadoop102 ~]$ conda config --set show_channel_urls yes
(1)查看conda的镜像channel配置
[kingjw@hadoop102 ~]$ conda config --show channels
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
- https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
- defaults
(2)删除清华镜像,继续用默认的
[kingjw@hadoop102 ~]$ conda config --remove-key channels
[kingjw@hadoop102 ~]$ conda config --show channels
- defaults
2)创建Python3.8环境
(base) [kingjw@hadoop102 ~]$ conda create --name superset python=3.8.16
- 说明:conda环境管理常用命令
- 创建环境:conda create -n env_name
- 查看所有环境:conda info --envs
- 删除一个环境:conda remove -n env_name --all
3)激活superset环境
(base) [kingjw@hadoop102 ~]$ conda activate superset
激活后效果如下图所示
(superset) [kingjw@hadoop102 ~]$
说明:退出当前环境
(superset) [kingjw@hadoop102 ~]$ conda deactivate
4)执行python -V命令查看python版本
(superset) [kingjw@hadoop102 ~]$ python -V
Python 3.8.16
2.2、Superset部署
2.2.1、安装依赖
安装Superset之前,需安装以下所需依赖。
(superset) [kingjw@hadoop102 ~]$ sudo yum install -y gcc gcc-c++ libffi-devel python-devel python-pip python-wheel python-setuptools openssl-devel cyrus-sasl-devel openldap-devel
2.2.2、安装Superset
1)更新pip
(superset) [kingjw@hadoop102 ~]$ pip install --upgrade pip -i https://pypi.douban.com/simple/
说明:pip是python的包管理工具,可以和centos中的yum类比
2)安装Supetset
(1)上传base.txt文件至任意路径
(superset) [kingjw@hadoop102 ~]$ ll ~
总用量 12
-rw-r--r--. 1 kingjw kingjw 5795 2月 3 15:27 base.txt
drwxrwxr-x. 2 kingjw kingjw 4096 2月 6 11:42 bin
该文件可用于指定superset依赖组件及版本,下载地址及内容如下。
https://raw.githubusercontent.com/apache/superset/2.0.0/requirements/base.txt
(2)在base.txt所在目录下执行如下命令,安装SuperSet
(superset) [kingjw@hadoop102 ~]$ pip install apache-superset==2.0.0 -i https://pypi.tuna.tsinghua.edu.cn/simple -r base.txt
说明:
-i的作用是指定镜像,这里选择国内镜像
-r的作用是指定superset依赖组件及相应版本,指向base.txt文件即可
2.2.3、配置Superset元数据库
Superset的元数据支持MySQL、PostgreSQL,此处采用MySQL。
1)在MySQL中创建superset元数据库
mysql> CREATE DATABASE superset DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;
2)创建superset用户
mysql> create user superset@'%' identified WITH mysql_native_password BY 'superset';
mysql> grant all privileges on *.* to superset@'%' with grant option;
mysql> flush privileges;
3)修改superset配置文件
(superset) [kingjw@hadoop102 ~]$ vim /opt/module/miniconda3/envs/superset/lib/python3.8/site-packages/superset/config.py
修改内容如下:(184、185行)
# SQLALCHEMY_DATABASE_URI = "sqlite:///" + os.path.join(DATA_DIR, "superset.db")
SQLALCHEMY_DATABASE_URI = 'mysql://superset:superset@hadoop102:3306/superset?charset=utf8'
4)安装python msyql驱动
(superset) [kingjw@hadoop102 ~]$ conda install mysqlclient
5)初始化superset元数据
(superset) [kingjw@hadoop102 ~]$ export FLASK_APP=superset
(superset) [kingjw@hadoop102 ~]$ superset db upgrade
2.2.4、SupersetSet初始化
1)创建管理员用户
(superset) [kingjw@hadoop102 ~]$ superset fab create-admin
2)初始化superset
(superset) [kingjw@hadoop102 ~]$ superset init
2.2.5、启动Supterset
1)安装gunicorn
(superset) [kingjw@hadoop102 ~]$ pip install gunicorn -i https://pypi.douban.com/simple/
说明:gunicorn是一个Python Web Server,可以和java中的TomCat类比
2)启动Superset
(1)确保当前conda环境为superset,及下图所示
(superset) [kingjw@hadoop102 ~]$
(2)启动
(superset) [kingjw@hadoop102 ~]$ gunicorn --workers 5 --timeout 120 --bind hadoop102:8787 "superset.app:create_app()" --daemon
说明:
--workers:指定进程个数
--timeout:worker进程超时时间,超时会自动重启
--bind:绑定本机地址,即为Superset访问地址
--daemon:后台运行
(3)登录Superset
访问http://hadoop102:8787,并使用2.2.2节中第4步创建的管理员账号进行登录。
3)停止superset
(1)停掉gunicorn进程
(superset) [kingjw@hadoop102 ~]$ ps -ef | awk '/superset/ && !/awk/{print $2}' | xargs kill -9
(2)退出superset环境
(superset) [kingjw@hadoop102 ~]$ conda deactivate
2.2.4、superset启停脚本
1)创建superset.sh文件
[kingjw@hadoop102 bin]$ vim superset.sh
内容如下
#!/bin/bash
superset_status(){
result=`ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | wc -l`
if [[ $result -eq 0 ]]; then
return 0
else
return 1
fi
}
superset_start(){
source ~/.bashrc
superset_status >/dev/null 2>&1
if [[ $? -eq 0 ]]; then
conda activate superset ; gunicorn --workers 5 --timeout 120 --bind hadoop102:8787 --daemon 'superset.app:create_app()'
else
echo "superset正在运行"
fi
}
superset_stop(){
superset_status >/dev/null 2>&1
if [[ $? -eq 0 ]]; then
echo "superset未在运行"
else
ps -ef | awk '/gunicorn/ && !/awk/{print $2}' | xargs kill -9
fi
}
case $1 in
start )
echo "启动Superset"
superset_start
;;
stop )
echo "停止Superset"
superset_stop
;;
restart )
echo "重启Superset"
superset_stop
superset_start
;;
status )
superset_status >/dev/null 2>&1
if [[ $? -eq 0 ]]; then
echo "superset未在运行"
else
echo "superset正在运行"
fi
esac
2)加执行权限
[kingjw@hadoop102 bin]$ chmod +x superset.sh
3)测试
(1)启动superset
[kingjw@hadoop102 bin]$ superset.sh start
(2)停止superset
[kingjw@hadoop102 bin]$ superset.sh stop
3、Superset使用
3.1、对接MySQL数据源
3.1.1、安装依赖(前边步骤已安装,可跳过)
(superset) [kingjw@hadoop102 ~]$ conda install mysqlclient
说明:对接不同的数据源,需安装不同的依赖,以下地址为官网说明。
Installing Database Drivers | Superset
3.1.2、数据源配置
1)Database配置
Step1:点击Data/Databases
Step2:点击+DATABASE
Step3:点击填写Database及SQL Alchemy URI
(1)方式一:通过URL连接
注:SQL Alchemy URI编写规范:mysql://用户名:密码@主机名:端口号/数据库名称
此处填写:mysql://superset:superset@hadoop102:3306/tms_report?charset=utf8
(2)方式二:逐个输入认证信息
此处选择方式一。
Step4:点击Test Connection,出现“Connection looks good!”提示即表示连接成功。
Step5:点击CONNECT
2)Table配置
Step1:点击Data/Datasets
Step2:点击+DATASET
Step3:配置Table
3.2、制作仪表盘
3.2.1、创建空白仪表盘
1)点击Dashboards/+DASHBOARDS
2)命名并保存
3.2.2、创建图表
1)点击Charts/+CHART
2)选则数据源及图表类型
3)创建图表
4)按照说明配置图表并创建
5)如配置无误,可出现以下图标
6)命名该图表,并保存至仪表盘
3.2.3、编辑仪表盘
1)打开仪表盘,点击编辑按钮
2)调整图表大小以及图表盘布局
3)点击下图中箭头,可调整仪表盘自动刷新时间
4、总结
Apache Superset是一个数据可视化工具,可对接各种数据源,拥有丰富的图表展示形式,并且支持自定义仪表盘。
有帮助的话帮忙点个赞吧!