phoenix 执行sql脚本

日萌社

人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新)


1.Phoenix执行sql脚本
    cd /root/phoenix/bin 
    ./psql.py node1,node2,node3:2181 xxx.sql

    ln -s /root/phoenix/bin/psql.py /usr/bin/psql
    psql node1,node2,node3:2181 xxx.sql

2.phoenix 交互界面
    phoenix node1:2181
    !tables
    select * from "表名/视图名";
    drop table "表名";
    drop view "视图名";
    !quit 

3.psql node1,node2,node3:2181 xxx.sql 表示执行 xxx.sql文件
  xxx.sql文件内容如下:
    create VIEW "itcast_adm_personas_hbase_20190210"(
    "user_id" varchar(100) primary key,
    "basicInfo"."user_name" VARCHAR(100),
    "basicInfo"."user_sex"  VARCHAR(100),
    "basicInfo"."user_birthday" VARCHAR(100),
    "basicInfo"."user_age"  VARCHAR(100),
    "basicInfo"."constellation" VARCHAR(100),
    "basicInfo"."province" VARCHAR(100),
    "basicInfo"."city" VARCHAR(100),
    "basicInfo"."city_level" VARCHAR(100),
    "basicInfo"."hex_mail" VARCHAR(100),
    "basicInfo"."op_mail" VARCHAR(100),
    "basicInfo"."hex_phone" VARCHAR(100),
    "basicInfo"."fore_phone" VARCHAR(100),
    "basicInfo"."op_phone" VARCHAR(100),
    "basicInfo"."add_time" VARCHAR(100),
    "basicInfo"."login_ip" VARCHAR(100),
    "basicInfo"."login_source" VARCHAR(100),
    "basicInfo"."request_user" VARCHAR(100),
    "basicInfo"."total_mark" VARCHAR(100),
    "basicInfo"."used_mark" VARCHAR(100),
    "basicInfo"."level_name" VARCHAR(100),
    "basicInfo"."blacklist" VARCHAR(100),
    "basicInfo"."is_married" VARCHAR(100),
    "basicInfo"."education" VARCHAR(100),
    "basicInfo"."monthly_money" VARCHAR(100),
    "basicInfo"."profession" VARCHAR(100),
    "basicInfo"."sex_model" VARCHAR(100),
    "basicInfo"."is_pregnant_woman" VARCHAR(100),
    "basicInfo"."is_have_children" VARCHAR(100),
    "basicInfo"."children_sex_rate" VARCHAR(100),
    "basicInfo"."children_age_rate" VARCHAR(100),
    "basicInfo"."is_have_car" VARCHAR(100),
    "basicInfo"."potential_car_user_rate" VARCHAR(100),
    "basicInfo"."phone_brand" VARCHAR(100),
    "basicInfo"."phone_brand_level" VARCHAR(100),
    "basicInfo"."phone_cnt" VARCHAR(100),
    "basicInfo"."change_phone_rate" VARCHAR(100),
    "basicInfo"."majia_flag" VARCHAR(100),
    "basicInfo"."majie_account_cnt" VARCHAR(100),
    "basicInfo"."loyal_model" VARCHAR(100),
    "basicInfo"."shopping_type_model" VARCHAR(100),
    "basicInfo"."figure_model" VARCHAR(100),
    "basicInfo"."stature_model" VARCHAR(100),
    "order"."first_order_time" VARCHAR(100),
    "order"."last_order_time" VARCHAR(100),
    "order"."first_order_ago" VARCHAR(100),
    "order"."last_order_ago" VARCHAR(100),
    "order"."month1_hg_order_cnt" VARCHAR(100),
    "order"."month1_hg_order_amt" VARCHAR(100),
    "order"."month2_hg_order_cnt" VARCHAR(100),
    "order"."month2_hg_order_amt" VARCHAR(100),
    "order"."month3_hg_order_cnt" VARCHAR(100),
    "order"."month3_hg_order_amt" VARCHAR(100),
    "order"."month1_order_cnt" VARCHAR(100),
    "order"."month1_order_amt" VARCHAR(100),
    "order"."month2_order_cnt" VARCHAR(100),
    "order"."month2_order_amt" VARCHAR(100),
    "order"."month3_order_cnt" VARCHAR(100),
    "order"."month3_order_amt" VARCHAR(100),
    "order"."max_order_amt" VARCHAR(100),
    "order"."min_order_amt" VARCHAR(100),
    "order"."total_order_cnt" VARCHAR(100),
    "order"."total_order_amt" VARCHAR(100),
    "order"."user_avg_amt" VARCHAR(100),
    "order"."month3_user_avg_amt" VARCHAR(100),
    "order"."common_address" VARCHAR(100),
    "order"."common_paytype" VARCHAR(100),
    "order"."month1_cart_cnt" VARCHAR(100),
    "order"."month1_cart_goods_cnt" VARCHAR(100),
    "order"."month1_cart_submit_cnt" VARCHAR(100),
    "order"."month1_cart_rate" VARCHAR(100),
    "order"."month1_cart_cancle_cnt" VARCHAR(100),
    "order"."return_cnt" VARCHAR(100),
    "order"."return_amt" VARCHAR(100),
    "order"."reject_cnt" VARCHAR(100),
    "order"."reject_amt" VARCHAR(100),
    "order"."last_return_time" VARCHAR(100),
    "order"."school_order_cnt" VARCHAR(100),
    "order"."company_order_cnt" VARCHAR(100),
    "order"."home_order_cnt" VARCHAR(100),
    "order"."forenoon_order_cnt" VARCHAR(100),
    "order"."afternoon_order_cnt" VARCHAR(100),
    "order"."night_order_cnt" VARCHAR(100),
    "order"."morning_order_cnt" VARCHAR(100),
    "category"."first_category_id" VARCHAR(100),
    "category"."first_category_name" VARCHAR(100),
    "category"."second_category_id" VARCHAR(100),
    "category"."second_catery_name" VARCHAR(100),
    "category"."third_category_id" VARCHAR(100),
    "category"."third_category_name" VARCHAR(100),
    "category"."month1_category_cnt" VARCHAR(100),
    "category"."month1_category_amt" VARCHAR(100),
    "category"."month3_category_cnt" VARCHAR(100),
    "category"."month3_category_amt" VARCHAR(100),
    "category"."month6_category_cnt" VARCHAR(100),
    "category"."month6_category_amt" VARCHAR(100),
    "category"."total_category_cnt" VARCHAR(100),
    "category"."total_category_amt" VARCHAR(100),
    "category"."month1_cart_category_cnt" VARCHAR(100),
    "category"."month3_cart_category_cnt" VARCHAR(100),
    "category"."month6_cart_category_cnt" VARCHAR(100),
    "category"."total_cart_category_cnt" VARCHAR(100),
    "category"."last_category_time" VARCHAR(100),
    "category"."last_category_ago" VARCHAR(100),
    "visit"."latest_pc_visit_date" VARCHAR(100),
    "visit"."latest_app_visit_date" VARCHAR(100),
    "visit"."latest_pc_visit_session" VARCHAR(100),
    "visit"."latest_pc_cookies" VARCHAR(100), 
    "visit"."latest_pc_pv" VARCHAR(100),
    "visit"."latest_pc_browser_name" VARCHAR(100),
    "visit"."latest_pc_visit_os" VARCHAR(100),
    "visit"."latest_app_name" VARCHAR(100),
    "visit"."latest_app_visit_os" VARCHAR(100),
    "visit"."latest_visit_ip" VARCHAR(100),
    "visit"."latest_city" VARCHAR(100),
    "visit"."latest_province" VARCHAR(100),
    "visit"."first_pc_visit_date" VARCHAR(100),
    "visit"."first_app_visit_date" VARCHAR(100),
    "visit"."first_pc_visit_session" VARCHAR(100),
    "visit"."first_pc_cookies" VARCHAR(100),
    "visit"."first_pc_pv" VARCHAR(100),
    "visit"."first_pc_browser_name" VARCHAR(100),
    "visit"."first_pc_visit_os" VARCHAR(100),
    "visit"."first_app_name" VARCHAR(100),
    "visit"."first_app_visit_os" VARCHAR(100),
    "visit"."first_visit_ip" VARCHAR(100),
    "visit"."first_city" VARCHAR(100),
    "visit"."first_province" VARCHAR(100),
    "visit"."day7_app_cnt" VARCHAR(100),
    "visit"."day15_app_cnt" VARCHAR(100),
    "visit"."month1_app_cnt" VARCHAR(100),
    "visit"."month2_app_cnt" VARCHAR(100),
    "visit"."month3_app_cnt" VARCHAR(100),
    "visit"."day7_pc_cnt" VARCHAR(100),
    "visit"."day15_pc_cnt" VARCHAR(100),
    "visit"."month1_pc_cnt" VARCHAR(100),
    "visit"."month2_pc_cnt" VARCHAR(100),
    "visit"."month3_pc_cnt" VARCHAR(100),
    "visit"."month1_pc_days" VARCHAR(100),
    "visit"."month1_pc_pv" VARCHAR(100),
    "visit"."month1_pc_avg_pv" VARCHAR(100),
    "visit"."month1_pc_diff_ip_cnt" VARCHAR(100),
    "visit"."month1_pc_diff_cookie_cnt" VARCHAR(100),
    "visit"."month1_pc_common_ip" VARCHAR(100),
    "visit"."month1_pc_common_cookie" VARCHAR(100),
    "visit"."month1_pc_common_browser_name" VARCHAR(100),
    "visit"."month1_pc_common_os" VARCHAR(100),
    "visit"."month1_hour025_cnt" VARCHAR(100),
    "visit"."month1_hour627_cnt" VARCHAR(100),
    "visit"."month1_hour829_cnt" VARCHAR(100),
    "visit"."month1_hour10212_cnt" VARCHAR(100),
    "visit"."month1_hour13214_cnt" VARCHAR(100),
    "visit"."month1_hour15217_cnt" VARCHAR(100),
    "visit"."month1_hour18219_cnt" VARCHAR(100),
    "visit"."month1_hour20221_cnt" VARCHAR(100),
    "visit"."month1_hour22223_cnt" VARCHAR(100)
    );

4.shell脚本自动生成用于在phoenix中执行的sql脚本
    #!/bin/sh
    #获取昨天的时间
    yesterday=`date -d '-1 day' "+%Y%m%d"`

    #指定运行哪天的数据
    if [ $1 ];then
        yesterday=$1
    fi

    table=itcast_adm_personas_hbase_$yesterday

    touch $table.sql
     
    echo 'create VIEW "'$table'"(
    "user_id" varchar(100) primary key,
    "basicInfo"."user_name" VARCHAR(100),
    "basicInfo"."user_sex"  VARCHAR(100),
    "basicInfo"."user_birthday" VARCHAR(100),
    "basicInfo"."user_age"  VARCHAR(100),
    "basicInfo"."constellation" VARCHAR(100),
    "basicInfo"."province" VARCHAR(100),
    "basicInfo"."city" VARCHAR(100),
    "basicInfo"."city_level" VARCHAR(100),
    "basicInfo"."hex_mail" VARCHAR(100),
    "basicInfo"."op_mail" VARCHAR(100),
    "basicInfo"."hex_phone" VARCHAR(100),
    "basicInfo"."fore_phone" VARCHAR(100),
    "basicInfo"."op_phone" VARCHAR(100),
    "basicInfo"."add_time" VARCHAR(100),
    "basicInfo"."login_ip" VARCHAR(100),
    "basicInfo"."login_source" VARCHAR(100),
    "basicInfo"."request_user" VARCHAR(100),
    "basicInfo"."total_mark" VARCHAR(100),
    "basicInfo"."used_mark" VARCHAR(100),
    "basicInfo"."level_name" VARCHAR(100),
    "basicInfo"."blacklist" VARCHAR(100),
    "basicInfo"."is_married" VARCHAR(100),
    "basicInfo"."education" VARCHAR(100),
    "basicInfo"."monthly_money" VARCHAR(100),
    "basicInfo"."profession" VARCHAR(100),
    "basicInfo"."sex_model" VARCHAR(100),
    "basicInfo"."is_pregnant_woman" VARCHAR(100),
    "basicInfo"."is_have_children" VARCHAR(100),
    "basicInfo"."children_sex_rate" VARCHAR(100),
    "basicInfo"."children_age_rate" VARCHAR(100),
    "basicInfo"."is_have_car" VARCHAR(100),
    "basicInfo"."potential_car_user_rate" VARCHAR(100),
    "basicInfo"."phone_brand" VARCHAR(100),
    "basicInfo"."phone_brand_level" VARCHAR(100),
    "basicInfo"."phone_cnt" VARCHAR(100),
    "basicInfo"."change_phone_rate" VARCHAR(100),
    "basicInfo"."majia_flag" VARCHAR(100),
    "basicInfo"."majie_account_cnt" VARCHAR(100),
    "basicInfo"."loyal_model" VARCHAR(100),
    "basicInfo"."shopping_type_model" VARCHAR(100),
    "basicInfo"."figure_model" VARCHAR(100),
    "basicInfo"."stature_model" VARCHAR(100),
    "order"."first_order_time" VARCHAR(100),
    "order"."last_order_time" VARCHAR(100),
    "order"."first_order_ago" VARCHAR(100),
    "order"."last_order_ago" VARCHAR(100),
    "order"."month1_hg_order_cnt" VARCHAR(100),
    "order"."month1_hg_order_amt" VARCHAR(100),
    "order"."month2_hg_order_cnt" VARCHAR(100),
    "order"."month2_hg_order_amt" VARCHAR(100),
    "order"."month3_hg_order_cnt" VARCHAR(100),
    "order"."month3_hg_order_amt" VARCHAR(100),
    "order"."month1_order_cnt" VARCHAR(100),
    "order"."month1_order_amt" VARCHAR(100),
    "order"."month2_order_cnt" VARCHAR(100),
    "order"."month2_order_amt" VARCHAR(100),
    "order"."month3_order_cnt" VARCHAR(100),
    "order"."month3_order_amt" VARCHAR(100),
    "order"."max_order_amt" VARCHAR(100),
    "order"."min_order_amt" VARCHAR(100),
    "order"."total_order_cnt" VARCHAR(100),
    "order"."total_order_amt" VARCHAR(100),
    "order"."user_avg_amt" VARCHAR(100),
    "order"."month3_user_avg_amt" VARCHAR(100),
    "order"."common_address" VARCHAR(100),
    "order"."common_paytype" VARCHAR(100),
    "order"."month1_cart_cnt" VARCHAR(100),
    "order"."month1_cart_goods_cnt" VARCHAR(100),
    "order"."month1_cart_submit_cnt" VARCHAR(100),
    "order"."month1_cart_rate" VARCHAR(100),
    "order"."month1_cart_cancle_cnt" VARCHAR(100),
    "order"."return_cnt" VARCHAR(100),
    "order"."return_amt" VARCHAR(100),
    "order"."reject_cnt" VARCHAR(100),
    "order"."reject_amt" VARCHAR(100),
    "order"."last_return_time" VARCHAR(100),
    "order"."school_order_cnt" VARCHAR(100),
    "order"."company_order_cnt" VARCHAR(100),
    "order"."home_order_cnt" VARCHAR(100),
    "order"."forenoon_order_cnt" VARCHAR(100),
    "order"."afternoon_order_cnt" VARCHAR(100),
    "order"."night_order_cnt" VARCHAR(100),
    "order"."morning_order_cnt" VARCHAR(100),
    "category"."first_category_id" VARCHAR(100),
    "category"."first_category_name" VARCHAR(100),
    "category"."second_category_id" VARCHAR(100),
    "category"."second_catery_name" VARCHAR(100),
    "category"."third_category_id" VARCHAR(100),
    "category"."third_category_name" VARCHAR(100),
    "category"."month1_category_cnt" VARCHAR(100),
    "category"."month1_category_amt" VARCHAR(100),
    "category"."month3_category_cnt" VARCHAR(100),
    "category"."month3_category_amt" VARCHAR(100),
    "category"."month6_category_cnt" VARCHAR(100),
    "category"."month6_category_amt" VARCHAR(100),
    "category"."total_category_cnt" VARCHAR(100),
    "category"."total_category_amt" VARCHAR(100),
    "category"."month1_cart_category_cnt" VARCHAR(100),
    "category"."month3_cart_category_cnt" VARCHAR(100),
    "category"."month6_cart_category_cnt" VARCHAR(100),
    "category"."total_cart_category_cnt" VARCHAR(100),
    "category"."last_category_time" VARCHAR(100),
    "category"."last_category_ago" VARCHAR(100),
    "visit"."latest_pc_visit_date" VARCHAR(100),
    "visit"."latest_app_visit_date" VARCHAR(100),
    "visit"."latest_pc_visit_session" VARCHAR(100),
    "visit"."latest_pc_cookies" VARCHAR(100), 
    "visit"."latest_pc_pv" VARCHAR(100),
    "visit"."latest_pc_browser_name" VARCHAR(100),
    "visit"."latest_pc_visit_os" VARCHAR(100),
    "visit"."latest_app_name" VARCHAR(100),
    "visit"."latest_app_visit_os" VARCHAR(100),
    "visit"."latest_visit_ip" VARCHAR(100),
    "visit"."latest_city" VARCHAR(100),
    "visit"."latest_province" VARCHAR(100),
    "visit"."first_pc_visit_date" VARCHAR(100),
    "visit"."first_app_visit_date" VARCHAR(100),
    "visit"."first_pc_visit_session" VARCHAR(100),
    "visit"."first_pc_cookies" VARCHAR(100),
    "visit"."first_pc_pv" VARCHAR(100),
    "visit"."first_pc_browser_name" VARCHAR(100),
    "visit"."first_pc_visit_os" VARCHAR(100),
    "visit"."first_app_name" VARCHAR(100),
    "visit"."first_app_visit_os" VARCHAR(100),
    "visit"."first_visit_ip" VARCHAR(100),
    "visit"."first_city" VARCHAR(100),
    "visit"."first_province" VARCHAR(100),
    "visit"."day7_app_cnt" VARCHAR(100),
    "visit"."day15_app_cnt" VARCHAR(100),
    "visit"."month1_app_cnt" VARCHAR(100),
    "visit"."month2_app_cnt" VARCHAR(100),
    "visit"."month3_app_cnt" VARCHAR(100),
    "visit"."day7_pc_cnt" VARCHAR(100),
    "visit"."day15_pc_cnt" VARCHAR(100),
    "visit"."month1_pc_cnt" VARCHAR(100),
    "visit"."month2_pc_cnt" VARCHAR(100),
    "visit"."month3_pc_cnt" VARCHAR(100),
    "visit"."month1_pc_days" VARCHAR(100),
    "visit"."month1_pc_pv" VARCHAR(100),
    "visit"."month1_pc_avg_pv" VARCHAR(100),
    "visit"."month1_pc_diff_ip_cnt" VARCHAR(100),
    "visit"."month1_pc_diff_cookie_cnt" VARCHAR(100),
    "visit"."month1_pc_common_ip" VARCHAR(100),
    "visit"."month1_pc_common_cookie" VARCHAR(100),
    "visit"."month1_pc_common_browser_name" VARCHAR(100),
    "visit"."month1_pc_common_os" VARCHAR(100),
    "visit"."month1_hour025_cnt" VARCHAR(100),
    "visit"."month1_hour627_cnt" VARCHAR(100),
    "visit"."month1_hour829_cnt" VARCHAR(100),
    "visit"."month1_hour10212_cnt" VARCHAR(100),
    "visit"."month1_hour13214_cnt" VARCHAR(100),
    "visit"."month1_hour15217_cnt" VARCHAR(100),
    "visit"."month1_hour18219_cnt" VARCHAR(100),
    "visit"."month1_hour20221_cnt" VARCHAR(100),
    "visit"."month1_hour22223_cnt" VARCHAR(100)
    );' > $table.sql

    psql node1,node2,node3:2181 $table.sql

 

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

あずにゃん

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值