如何安装Presto以及基于Presto实现Mysql跨库数据查询,详细实现步骤

安装 Presto

1. 下载 Presto Server 包

wget https://repo1.maven.org/maven2/com/facebook/presto/presto-server/0.267/presto-server-0.267.tar.gz

2. 解压缩

tar -zxvf presto-server-0.267.tar.gz

3. 配置 Presto Server

        a. 进入 Presto Server 目录

cd presto-server-0.267

        b. 创建配置文件

mkdir etc
cd etc
cp ../etc/node.properties .
cp ../etc/config.properties .

        c. 修改配置文件        

                i. node.properties

 ```properties
  node.environment=production
  node.id=ffffffff-ffff-ffff-ffff-ffffffffffff
  node.data-dir=/var/presto/data
  ```

  其中 `node.id` 需要是一个全局唯一的 UUID。

                ii. config.properties

 ```properties
   coordinator=true
   node-scheduler.include-coordinator=true
   http-server.http.port=8080
   query.max-memory=5GB
   query.max-memory-per-node=1GB
   discovery-server.enabled=true
   discovery.uri=http://localhost:8080
   ```

   其中 `http-server.http.port` 是 Presto Server 的监听端口。

4. 启动 Presto Server

bin/launcher start

5. 验证 Presto Server 是否启动成功

        a. 打开 Presto Web UI

        在浏览器中打开 http://localhost:8080/ui/

        b. 执行查询

        在 Presto Web UI 中,输入以下 SQL 查询语句:

SELECT * FROM system.runtime.nodes;

如果查询成功,说明 Presto Server 安装成功。

实现 Mysql 跨库数据查询

1. 安装 Presto Mysql Connector

        a. 下载 Presto Mysql Connector 包

wget https://repo1.maven.org/maven2/com/facebook/presto/presto-jdbc/0.267/presto-jdbc-0.267.jar

        b. 将 Presto Mysql Connector 包放入 Presto Server 的插件目录

cp presto-jdbc-0.267.jar presto-server-0.267/plugin/mysql/

2. 创建 Mysql 数据源配置文件

        a. 进入 Presto Server 的配置目录

cd presto-server-0.267/etc/

        b. 创建 Mysql 数据源配置文件

touch catalog/mysql.properties

        c. 编辑 Mysql 数据源配置文件

connector.name=mysql
connection-url=jdbc:mysql://localhost:3306
connection-user=root
connection-password=123456

其中 connection-url 是 Mysql 数据库的连接 URL,connection-user 和 connection-password 是 Mysql 数据库的用户名和密码。

3. 创建 Mysql 表

    在 Mysql 数据库中创建两个表,例如 database1.table1 和 database2.table2

4. 创建 Presto Schema

        a. 进入 Presto Server 的插件目录

cd presto-server-0.267/plugin/mysql/

        b. 创建 Presto Schema

mkdir mysql_schema
cd mysql_schema
touch etc/schema.ini

        c. 编辑 Presto Schema

[database1]
connection-url=jdbc:mysql://localhost:3306/database1
connection-user=root
connection-password=123456

[database2]
connection-url=jdbc:mysql://localhost:3306/database2
connection-user=root
connection-password=123456

其中 [database1] 和 [database2] 是 Presto Schema 的名称,connection-urlconnection-user 和 connection-password 是连接 Mysql 数据库的参数。

5. 执行跨库查询

        在 Presto Web UI 中,输入以下 SQL 查询语句:

SELECT *
FROM mysql.database1.table1 t1
JOIN mysql.database2.table2 t2 ON t1.id = t2.id;

如果查询成功,说明 Presto Mysql Connector 安装成功,并且可以实现 Mysql 跨库数据查询。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
课程简介:  本项目课程是一门极具综合性和完整性的大型项目课程;课程项目的业务背景源自各类互联网公司对海量用户浏览行为数据和业务数据分析的需求及企业数据管理、数据运营需求。 本课程项目涵盖数据采集与预处理、数据仓库体系建设、用户画像系统建设、数据治理(元数据管理、数据质量管理)、任务调度系统、数据服务层建设、OLAP即席分析系统建设等大量模块,力求原汁原味重现一个完备的企业级大型数据运营系统。  拒绝demo,拒绝宏观抽象,拒绝只讲不练,本课程高度揉和理论与实战,并兼顾各层次的学员,真正从0开始,循序渐进,每一个步骤每一个环节,都会带领学员从需求分析开始,到逻辑设计,最后落实到每一行代码,所有流程都采用企业级解决方案,并手把手带领学员一一实现,拒绝复制粘贴,拒绝demo化的实现。并且会穿插大量的原创图解,来帮助学员理解复杂逻辑,掌握关键流程,熟悉核心架构。   跟随项目课程,历经接近100+小时的时间,从需求分析开始,到数据埋点采集,到预处理程序代码编写,到数仓体系搭建......逐渐展开整个项目的宏大视图,构建起整个项目的摩天大厦。  由于本课程不光讲解项目的实现,还会在实现过程中反复揉和各种技术细节,各种设计思想,各种最佳实践思维,学完本项目并勤于实践的话,学员的收获将远远超越一个项目的具体实现,更能对大型数据系统开发产生深刻体悟,对很多技术的应用将感觉豁然开朗,并带来融会贯通能力的巨大飞跃。当然,最直接的收获是,学完本课程,你将很容易就拿到大数据数仓建设或用户画像建设等岗位的OFFER课程模块: 1. 数据采集:涉及到埋点日志flume采集系统,sqoop业务数据抽取系统等; 2. 数据预处理:涉及到各类字典数据构建,复杂结构数据清洗解析,数据集成,数据修正,以及多渠道数据的用户身份标识打通:ID-MAPPING等;3. 数据仓库:涉及到hive数仓基础设施搭建,数仓分层体系设计,数仓分析主题设计,多维分析实现,ETL任务脚本开发,ETL任务调度,数据生命周期管理等;4. 数据治理:涉及数据资产查询管理,数据质量监控管理,atlas元数据管理系统,atlas数据血缘管理等;5. 用户画像系统:涉及画像标签体系设计,标签体系层级关系设计,各类标签计算实现,兴趣类标签的衰减合并,模型标签的机器学习算法应用及特征提取、模型训练等;6. OLAP即席分析平台:涉及OLAP平台的整体架构设计,技术选型,底层存储实现Presto查询引擎搭建,数据服务接口开发等;7. 数据服务:涉及数据服务的整体设计理念,架构搭建,各类数据访问需求的restapi开发等;课程所涉及的技术: 整个项目课程中,将涉及到一个大型数据系统中所用到的几乎所有主要技术,具体来说,包含但不限于如下技术组件:l Hadoopl Hivel HBasel SparkCore /SparkSQL/ Spark GRAPHX / Spark Mllibl Sqoopl Azkabanl Flumel lasal Kafkal Zookeeperl Solrl Prestop

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码上团建

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值