springmvc集成Hbase数据库

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/antao592/article/details/52788763

前面我们讲了spring封装mongodb的代码实现,这里我们讲一下spring封装hbase的代码实现。

hbase的简介:

此处大概说一下,不是我们要讨论的重点。

HBase是一个分布式的、面向列的开源数据库,HBase在Hadoop之上提供了类似于Bigtable的能力。HBase是Apache的Hadoop项目的子项目。HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库。另一个不同的是HBase基于列的而不是基于行的模式。hbase是bigtable的开源山寨版本。是建立的hdfs之上,提供高可靠性、高性能、列存储、可伸缩、实时读写的数据库系统。它介于nosql和RDBMS之间,仅能通过主键(row key)和主键的range来检索数据,仅支持单行事务(可通过hive支持来实现多表join等复杂操作)。主要用来存储非结构化和半结构化的松散数据。与hadoop一样,Hbase目标主要依靠横向扩展,通过不断增加廉价的商用服务器,来增加计算和存储能力。hbase给我的印象就是无限存,按照Key读取。

那么在我们的java程序中应该如何使用hbase呢。

首先:

引入hbase的jar包,如果不是Maven项目,可以单独按照以下格式下载hbase的jar包引入到你的项目里。


 
  1. <dependency>
  2. <groupId>org.apache.hbase </groupId>
  3. <artifactId>hbase-client </artifactId>
  4. <version>0.96.2-hadoop2 </version>
  5. </dependency>
其次:

增加hbase在spring中的配置。

1.    新增hbase-site.xml配置文件。以下是通用配置,具体每个参数的含义可以百度以下,这里不做详细讲解。


 
  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <configuration>
  3. <!--<property>-->
  4. <!--<name>hbase.rootdir</name>-->
  5. <!--<value>hdfs://ns1/hbase</value>-->
  6. <!--</property>-->
  7. <property>
  8. <name>hbase.client.write.buffer </name>
  9. <value>62914560 </value>
  10. </property>
  11. <property>
  12. <name>hbase.client.pause </name>
  13. <value>1000 </value>
  14. </property>
  15. <property>
  16. <name>hbase.client.retries.number </name>
  17. <value>10 </value>
  18. </property>
  19. <property>
  20. <name>hbase.client.scanner.caching </name>
  21. <value>1 </value>
  22. </property>
  23. <property>
  24. <name>hbase.client.keyvalue.maxsize </name>
  25. <value>6291456 </value>
  26. </property>
  27. <property>
  28. <name>hbase.rpc.timeout </name>
  29. <value>60000 </value>
  30. </property>
  31. <property>
  32. <name>hbase.security.authentication </name>
  33. <value>simple </value>
  34. </property>
  35. <property>
  36. <name>zookeeper.session.timeout </name>
  37. <value>60000 </value>
  38. </property>
  39. <property>
  40. <name>zookeeper.znode.parent </name>
  41. <value>ZooKeeper中的HBase的根ZNode </value>
  42. </property>
  43. <property>
  44. <name>zookeeper.znode.rootserver </name>
  45. <value>root-region-server </value>
  46. </property>
  47. <property>
  48. <name>hbase.zookeeper.quorum </name>
  49. <value>zookeeper集群 </value>
  50. </property>
  51. <property>
  52. <name>hbase.zookeeper.property.clientPort </name>
  53. <value>2181 </value>
  54. </property>
  55. </configuration>
2. 新建spring-config-hbase.xml文件,记得在spring的配置文件中把这个文件Import进去。


 
  1. <?xml version="1.0" encoding="UTF-8"?>
  2. <beans
  3. xmlns= "http://www.springframework.org/schema/beans"
  4. xmlns:xsi= "http://www.w3.org/2001/XMLSchema-instance"
  5. xmlns:hdp= "http://www.springframework.org/schema/hadoop"
  6. xsi:schemaLocation= "http://www.springframework.org/schema/beans
  7. http://www.springframework.org/schema/beans/spring-beans-3.0.xsd
  8. http://www.springframework.org/schema/hadoop
  9. http://www.springframework.org/schema/hadoop/spring-hadoop.xsd
  10. ">
  11. <hdp:configuration resources="classpath:spring/hbase-site.xml" />
  12. <hdp:hbase-configuration configuration-ref="hadoopConfiguration" />
  13. <bean id="htemplate" class="org.springframework.data.hadoop.hbase.HbaseTemplate">

 
  1. <!--注意到没有,spring的一贯风格,正如我们在mongodb篇讲到的一样,xxxTemplate封装-->
  2. <property name="configuration" ref="hbaseConfiguration">
  3. </property>
  4. </bean>
  5. <bean class="com..HbaseDaoImpl" id="hbaseDao">
  6. <constructor-arg ref="htemplate"/>
  7. </bean>
  8. </beans>
最后:

我们就可以重写我们的HbaseDaoImple类了。在这里可以实现我们操作hbase的代码逻辑。其中prism:OrderInfo是我们的表名,f是列族名称,OrderInfo的属性是列族下的列名。orderInfo是我程序定义的bean,你可以按照自己的需求定义自己的bean。


 
  1. public class HbaseDaoImpl{
  2. private HbaseTemplate hbaseTemplate;
  3. private HConnection hconnection = null;
  4. public HbaseDaoImpl(HbaseTemplate htemplate) throws Exception {
  5. if (hconnection == null) {
  6. hconnection = HConnectionManager.createConnection(htemplate.getConfiguration());
  7. }
  8. if (this.hbaseTemplate == null) {
  9. this.hbaseTemplate = htemplate;
  10. }
  11. }
  12. public void writeDataOrderinfo(final OrderInfo orderInfo) {
  13. HTableInterface table = null;
  14. try {
  15. table = hconnection.getTable(Bytes.toBytes("prism:orderInfo"));
  16. Put p = new Put(Bytes.toBytes( orderInfo.getHistoryId()));
  17. p.add(Bytes.toBytes("f"), Bytes.toBytes("id"), Bytes.toBytes(orderInfo.getId()));
  18. p.add(Bytes.toBytes("f"), Bytes.toBytes("historyId"), Bytes.toBytes(orderInfo.getHistoryId()));
  19. p.add(Bytes.toBytes("f"), Bytes.toBytes("orderId"), Bytes.toBytes(orderInfo.getOrderId()));
  20. p.add(Bytes.toBytes("f"), Bytes.toBytes("orderDirection"), Bytes.toBytes(orderInfo.getOrderDirection()));
  21. p.add(Bytes.toBytes("f"), Bytes.toBytes("overStatus"), Bytes.toBytes(orderInfo.getOverStatus()));
  22. p.add(Bytes.toBytes("f"), Bytes.toBytes("orgArea"), Bytes.toBytes(orderInfo.getOrgArea()));
  23. table.put(p);
  24. } catch (IOException e) {
  25. throw new RuntimeException(e);
  26. } finally {
  27. if (table != null) {
  28. try {
  29. table.close();
  30. } catch (IOException e) {
  31. e.printStackTrace();
  32. }
  33. }
  34. }
  35. }
  36. public OrderInfo getOrderInfoByRowkey(String rowKey) {
  37. Get get = new Get(Bytes.toBytes(rowKey));
  38. Scan scan = new Scan(get);
  39. List <OrderInfo> list = hbaseTemplate.find("prism:orderInfo", scan, new RowMapper <OrderInfo>() {
  40. @Override
  41. public OrderInfo mapRow(Result result, int rowNum) throws Exception {
  42. OrderInfo orderInfo = new OrderInfo();
  43. orderInfo.setId(Bytes.toString(result.getValue(Bytes.toBytes("f"), Bytes.toBytes("id"))));
  44. orderInfo.setHistoryId(Bytes.toString(result.getValue(Bytes.toBytes("f"), Bytes.toBytes("historyId"))));
  45. orderInfo.setOrderId(Bytes.toLong(result.getValue(Bytes.toBytes("f"), Bytes.toBytes("orderId"))));
  46. return orderInfo;
  47. }
  48. });
  49. if(list.size() > 0){
  50. return list.get(0);
  51. }else{
  52. return null;
  53. }
  54. }
  55. public List <OrderInfo> getOrderInfoByRange(String start_rowKey,String stop_rowKey) {
  56. Scan scan = new Scan();
  57. scan.setStartRow(Bytes.toBytes(start_rowKey));
  58. scan.setStopRow(Bytes.toBytes(stop_rowKey));
  59. HTableInterface table = null;
  60. ResultScanner rs = null;
  61. List <OrderInfo> list = new ArrayList <OrderInfo>();
  62. try {
  63. table = hconnection.getTable(Bytes.toBytes("prism:orderInfo"));
  64. rs = table.getScanner(scan);
  65. for(Result result : rs){
  66. OrderInfo orderInfo = new OrderInfo();
  67. orderInfo.setId(Bytes.toString(result.getValue(Bytes.toBytes("f"), Bytes.toBytes("id"))));
  68. orderInfo.setHistoryId(Bytes.toString(result.getValue(Bytes.toBytes("f"), Bytes.toBytes("historyId"))));
  69. orderInfo.setOrderId(Bytes.toLong(result.getValue(Bytes.toBytes("f"), Bytes.toBytes("orderId"))));
  70. orderInfo.setOrderDirection(Bytes.toString(result.getValue(Bytes.toBytes("f"), Bytes.toBytes("orderDirection"))));
  71. list.add(orderInfo);
  72. }
  73. } catch (IOException e) {
  74. e.printStackTrace();
  75. }finally{
  76. rs.close();
  77. }
  78. return list;
  79. }
  80. public HbaseTemplate getHbaseTemplate() {
  81. return hbaseTemplate;
  82. }
  83. public void setHbaseTemplate(HbaseTemplate hbaseTemplate) {
  84. this.hbaseTemplate = hbaseTemplate;
  85. }
  86. }

注:在程序中,你可以使用spring封装的HbaseTemplate,也可以使用原生的hconnection等的操作方式,如何操作在我们的代码示例中都有。个人觉得,spring封装的HbaseTemplate不太好使,比如每次请求都会重新链接一下zookeeper集群(其中缘由我也没去研究,有研究透的同学还望不吝赐教)。建议用原生的方式。



@[TOC](这里写自定义目录标题)

欢迎使用Markdown编辑器

你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。

新的改变

我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能,我们增加了如下几点新功能,帮助你用它写博客:

  1. 全新的界面设计 ,将会带来全新的写作体验;
  2. 在创作中心设置你喜爱的代码高亮样式,Markdown 将代码片显示选择的高亮样式 进行展示;
  3. 增加了 图片拖拽 功能,你可以将本地的图片直接拖拽到编辑区域直接展示;
  4. 全新的 KaTeX数学公式 语法;
  5. 增加了支持甘特图的mermaid语法1 功能;
  6. 增加了 多屏幕编辑 Markdown文章功能;
  7. 增加了 焦点写作模式、预览模式、简洁写作模式、左右区域同步滚轮设置 等功能,功能按钮位于编辑区域与预览区域中间;
  8. 增加了 检查列表 功能。

功能快捷键

撤销:Ctrl/Command + Z
重做:Ctrl/Command + Y
加粗:Ctrl/Command + B
斜体:Ctrl/Command + I
标题:Ctrl/Command + Shift + H
无序列表:Ctrl/Command + Shift + U
有序列表:Ctrl/Command + Shift + O
检查列表:Ctrl/Command + Shift + C
插入代码:Ctrl/Command + Shift + K
插入链接:Ctrl/Command + Shift + L
插入图片:Ctrl/Command + Shift + G

合理的创建标题,有助于目录的生成

直接输入1次#,并按下space后,将生成1级标题。
输入2次#,并按下space后,将生成2级标题。
以此类推,我们支持6级标题。有助于使用TOC语法后生成一个完美的目录。

如何改变文本的样式

强调文本 强调文本

加粗文本 加粗文本

标记文本

删除文本

引用文本

H2O is是液体。

210 运算结果是 1024.

插入链接与图片

链接: link.

图片: Alt

带尺寸的图片: Alt

当然,我们为了让用户更加便捷,我们增加了图片拖拽功能。

如何插入一段漂亮的代码片

博客设置页面,选择一款你喜欢的代码片高亮样式,下面展示同样高亮的 代码片.

// An highlighted block
var foo = 'bar';

生成一个适合你的列表

  • 项目
    • 项目
      • 项目
  1. 项目1
  2. 项目2
  3. 项目3
  • 计划任务
  • 完成任务

创建一个表格

一个简单的表格是这么创建的:

项目Value
电脑$1600
手机$12
导管$1

设定内容居中、居左、居右

使用:---------:居中
使用:----------居左
使用----------:居右

第一列第二列第三列
第一列文本居中第二列文本居右第三列文本居左

SmartyPants

SmartyPants将ASCII标点字符转换为“智能”印刷标点HTML实体。例如:

TYPEASCIIHTML
Single backticks'Isn't this fun?'‘Isn’t this fun?’
Quotes"Isn't this fun?"“Isn’t this fun?”
Dashes-- is en-dash, --- is em-dash– is en-dash, — is em-dash

创建一个自定义列表

Markdown
Text-to- HTML conversion tool
Authors
John
Luke

如何创建一个注脚

一个具有注脚的文本。2

注释也是必不可少的

Markdown将文本转换为 HTML

KaTeX数学公式

您可以使用渲染LaTeX数学表达式 KaTeX:

Gamma公式展示 Γ ( n ) = ( n − 1 ) ! ∀ n ∈ N \Gamma(n) = (n-1)!\quad\forall n\in\mathbb N Γ(n)=(n1)!nN 是通过欧拉积分

Γ ( z ) = ∫ 0 ∞ t z − 1 e − t d t &ThinSpace; . \Gamma(z) = \int_0^\infty t^{z-1}e^{-t}dt\,. Γ(z)=0tz1etdt.

你可以找到更多关于的信息 LaTeX 数学表达式here.

新的甘特图功能,丰富你的文章

Mon 06 Mon 13 Mon 20 已完成 进行中 计划一 计划二 现有任务 Adding GANTT diagram functionality to mermaid
  • 关于 甘特图 语法,参考 这儿,

UML 图表

可以使用UML图表进行渲染。 Mermaid. 例如下面产生的一个序列图::

张三 李四 王五 你好!李四, 最近怎么样? 你最近怎么样,王五? 我很好,谢谢! 我很好,谢谢! 李四想了很长时间, 文字太长了 不适合放在一行. 打量着王五... 很好... 王五, 你怎么样? 张三 李四 王五

这将产生一个流程图。:

链接
长方形
圆角长方形
菱形
  • 关于 Mermaid 语法,参考 这儿,

FLowchart流程图

我们依旧会支持flowchart的流程图:

Created with Raphaël 2.2.0 开始 我的操作 确认? 结束 yes no
  • 关于 Flowchart流程图 语法,参考 这儿.

导出与导入

导出

如果你想尝试使用此编辑器, 你可以在此篇文章任意编辑。当你完成了一篇文章的写作, 在上方工具栏找到 文章导出 ,生成一个.md文件或者.html文件进行本地保存。

导入

如果你想加载一篇你写过的.md文件或者.html文件,在上方工具栏可以选择导入功能进行对应扩展名的文件导入,
继续你的创作。


  1. mermaid语法说明 ↩︎

  2. 注脚的解释 ↩︎

©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页