延云YDB版本v1.0.7-beta版本上线

原创 2016年01月14日 20:57:05


本次新增与改动如下:

1,支持多个merger servrer
为了应对集群规模越来越大造成的单节点的merger server压力过大,可以通过 ydb.request.split: 4参数,随机选择一定数量的worker担任merger server.

2,ydb on spark支持多集群

    ydb on spark可以支持同一个表,跨多个ydb集群查询,用以应对单个ydb集群在集群规模达百台规模以后hdfs与zookeeper等系统响应变慢等因素,通过这种方式ydb可以支持线性扩展到数千台集群规模,额不用担心到达这个规模后zookeeper,namenode的问题。

3.完善ydb on spark是使用用例

  SparkExampleBasic 为ydb on spark基本使用用例

    SparkExampleJoin 为ydb on spark中的高性能的join使用用例

4.添加参数,可以配置当有部分worker失效依然可以查询

   允许部分对数据准确性不敏感的业务使用。可以通过ydb.topoplgy.worker.allowfail.count来配置,在某一时间允许出现多少个worker宕机后依然可以查询ydb.

5.重构核心代码,提升计算性能。

6.通过文件导入数据不在要求用户来控制数据粒度,不在要求用户保持均衡,而是自动进行文件切分,保证多个节点之间的数据均衡。

新的json导入接口为

http://127.0.0.1:8080/insertdir?hdfsdir=/data/myntest/jsondata_example.txt

新的按照分隔符导入配置与接口为


可以在ydb_site.yaml里添加如下配置

 ydb.reader.list: "default,filesplit"

 ydb.reader.read.class.filesplit: "cn.net.ycloud.ydb.server.reader.HdfsTxtDataReader"

 ydb.reader.parser.class.filesplit: "cn.net.ycloud.ydb.server.reader.FileSplitParser"

然后调用如下的接口完成批量导入

http://127.0.0.1:8080/insertdir?reader=filesplit&tablename=ydb_example_shu&partion=20160110&splitInfo=,&hdfsdir=/data/ydb/shu_discp


7,读与写的buffer合并,原先是分开的,现在在索引创建完毕后,刚刚生成的索引文件是在buffer中的,这样就不需要在读取这个索引的时候,再次从hdfs中读取索引了,从而提升查询效率。

8,在页面中添加表的数据预览功能sql view

9,优化删分区数据的处理逻辑

10,修正实时导数据会有百万分之一数据丢失的BUG

    bug原因为,原先的数据ID时根据crc32生成的,偶尔会碰到crc32碰撞,导致数据被覆盖。





YDB下载地址:

您必须同意授权使用协议才允许使用该软件  授权协议下载


当前版本v1.0.7

获取延云YDB


https://yunpan.cn/cuTv9KjLbNCYg  访问密码 b612


也可以访问延云官方 随时获取最新的版本 http://ycloud.net.cn



http://ycloud.net.cn/newsitem/277251571

相关文章推荐

那些年在沈阳延云云计算的日子初识篇

http://write.blog.csdn.net/Image/Index?r=0.742950181http://write.blog.csdn.net/image/index?r=0.60978...

CDH5.0.2实践(四)离线安装实践

CDH5 主要是用在开发环境中使用,经历了多次重装,所以觉得有必要整理一下如何进行删除、离线安装...
  • csolo
  • csolo
  • 2017年07月25日 11:45
  • 178

CDH5实践(补充)一些问题的处理

本篇针对CDH5中的一些问题处理进行归纳
  • csolo
  • csolo
  • 2017年07月25日 12:02
  • 170

延云YDB从1.11版本起,正式无缝支持帆软等支持hive接口的报表工具

之前旧版,由于在写hive SQL的时候,需要添加三个set,导致很多支持HIVE的报表工具无法无缝集成(需要业务自己写插件)。 经过三个星期的spark源码的阅读,虽然还做不到完全的无缝,但终于可以...

延云YDB安装与使用说明书v1.0.2_

  • 2015年12月03日 13:49
  • 1.08MB
  • 下载

延云YDB-运行程序v1.0.1

  • 2015年11月30日 20:14
  • 50.27MB
  • 下载

博主个人站点 -- CRMHOME.NET Beta版本上线啦!

Hello 各位,经过几个月的筹备,博主的个人站点终于可以上线啦!!!这个网站我暂且叫它-- CRM之家(CRM Home),大家可以通过域名http://www.crmhome.net对其进行访问。...

延云YDB-运行程序v1.0.2_运行程序17

  • 2015年12月03日 17:55
  • 50.4MB
  • 下载

延云YDB安装与使用说明书v0.21.

  • 2015年12月03日 13:14
  • 1.08MB
  • 下载

【电子签到】v1.0版本正式上线!免费下载!

由于上一个版本没有完善就是匆匆发布,后来也造成一些不方便,这次小猿带着V1.0版的电子签到来了!经过一些朋友与用户的建议和意见,我做了大量的修改,从而大大提高了签到效率。本款软件使用PHP+mysql...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:延云YDB版本v1.0.7-beta版本上线
举报原因:
原因补充:

(最多只允许输入30个字)