高效率:使用DBeaver连接spark-sql

提高运行效率一般采取底层使用spark引擎替换成hive引擎的方式提高效率,但替换引擎配置较为复杂考虑到兼容版本且容易出错,所以本篇将介绍使用DBeaver直接连接spark-sql快速操作hive数据库。

在spark目录下运行以下命令,创建一个SparkThirdService端口号为10016

sudo -u root ./sbin/start-thriftserver.sh \
--hiveconf hive.server2.thrift.port=自定义端口号 \
--hiveconf hive.server2.thrift.bind.host=主机ip地址 \
--hiveconf spark.sql.warehouse.dir=hdfs://主机IP地址:hadoop端口/hive在hdfs下的路径目录
--master yarn \
--executor-memory 4G \
--conf spark.sql.shuffle.partitions=10

   主机地址和端口自己按照自己的环境需要更改

 每次重启后运行启动都要执行,可自己编写为sh文件执行

在/home下创建一个client-saprk-sql

vi /home/client-saprk-sql

 将启动SparkThirdService内容写入到文件中:

        这里写了该文件的绝对路径

sudo -u root /opt/module/spark/sbin/start-thriftserver.sh \
--hiveconf hive.server2.thrift.port=10016 \
--hiveconf hive.server2.thrift.bind.host=192.168.10.137 \
--hiveconf spark.sql.warehouse.dir=hdfs://192.168.10.137:9000/user/hive/warehouse \
--master yarn \
--executor-memory 4G \
--conf spark.sql.shuffle.partitions=10

执行: 

sh /home/client-saprk-sql

编辑连接:

 测试连接成功

建个表插入数据测试一下:

CREATE TABLE test_table (
    id STRING,
    name STRING
);
INSERT INTO test_table VALUES ('1', 'John');
INSERT INTO test_table VALUES ('2', 'Jane');

使用spark-sql方式操作hive插入速度非常快 

  • 4
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
### 回答1: /DBeaver-EE-21.1.0是一款功能强大的数据库管理工具。它支持多种数据库,如MySQL、Oracle、SQL Server等,可以方便地对这些数据库进行管理和操作。 /DBeaver-EE-21.1.0具有友好的用户界面和直观的操作方式,使得用户可以快速上手并进行各种操作。它提供了丰富的功能,如查询、导入导出数据、备份恢复数据库等,满足了用户在数据库管理过程中的各种需求。 /DBeaver-EE-21.1.0还支持多种插件,用户可以根据自己的需求选择安装不同的插件,从而扩展工具的功能。这些插件包括连接器、视图编辑器、报表生成器等,提供了更多的选择和便利。 此外,/DBeaver-EE-21.1.0还具有一些高级功能,如数据模型生成、数据字典生成等。这些功能可以帮助用户更好地进行数据库设计和管理,提高工作效率。 总而言之,/DBeaver-EE-21.1.0是一款功能强大、操作简便的数据库管理工具,可以满足用户在数据库管理过程中的各种需求。无论是初学者还是专业人士,都可以通过它来轻松管理和操作各种数据库。 ### 回答2: dbeaver-ee-21.1.0是一款开源的数据库管理工具,它支持多种数据库平台,包括MySQL、PostgreSQL、Oracle等。 该工具具有丰富的功能,用户可以通过它连接和管理数据库、执行SQL语句、浏览和编辑表格、导入和导出数据等。此外,它还提供了直观的图形化界面,使用户更容易操作和管理数据库。 dbeaver-ee-21.1.0还具有高度的可定制性。用户可以根据自己的需求选择不同的插件和扩展来扩展工具的功能。此外,它还支持多种主题,用户可以根据自己的喜好来调整界面的外观和风格。 该工具还内置了一些实用的功能,如数据比较和同步、数据查询和分析等。它可以帮助用户更轻松地进行数据库管理和数据处理工作,提高工作效率。 此外,dbeaver-ee-21.1.0还具有良好的跨平台性能,可以在Windows、Mac和Linux等操作系统上运行,满足不同用户的需求。 总的来说,dbeaver-ee-21.1.0是一款功能强大、易于使用和高度可定制的数据库管理工具,适合各种规模和类型的项目使用。 ### 回答3: dbeaver-ee-21.1.0是一款功能强大的数据库管理工具。它是DBeaver的企业版,提供了更多高级功能和扩展支持。 作为一款数据库工具,dbeaver-ee-21.1.0支持多种数据库管理系统,包括MySQL、Oracle、PostgreSQL、Microsoft SQL Server等,可以方便地连接、管理和操作这些数据库。它提供了直观友好的用户界面,使用户可以轻松地进行数据查询、编辑、导入和导出等操作。 dbeaver-ee-21.1.0为用户提供了丰富的功能和特性。它支持SQL编辑和执行,用户可以编写和调试SQL语句,对数据库进行查询和修改。此外,它还提供了数据导入和导出功能,可以将数据从数据库导出为各种格式,或将外部数据导入到数据库中。 dbeaver-ee-21.1.0还支持数据库对象的管理,用户可以方便地创建、修改和删除数据库表、视图、存储过程等对象。此外,它还提供了数据备份和还原功能,可以对数据库进行定期备份,以防止数据丢失。 dbeaver-ee-21.1.0拥有丰富的插件和扩展支持,用户可以根据自己的需求添加和使用不同的插件,扩展工具的功能。同时,它还支持与其他开发工具和框架的集成,方便开发人员在开发过程中与数据库交互。 总之,dbeaver-ee-21.1.0是一款功能强大、易于使用的数据库管理工具,它为用户提供了丰富的功能和特性,可以帮助用户轻松地管理和操作各种数据库。无论是数据库管理员、开发人员还是数据分析师,都可以从中受益。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

open_test01

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值