tachyon方面转载

参考文章,感谢作者共享
http://www.cnblogs.com/byrhuangqiang/p/3940017.html
http://blog.itpub.net/22268043/viewspace-1114449/
http://blog.csdn.net/colorant/article/details/22385763   
http://www.csdn.net/article/2014-07-17/2820713
http://blog.csdn.net/oopsoom/article/details/38438321

Spark是一个高效的分布式计算系统相比Hadoop,它在性能上比Hadoop要高100倍。Spark提供比Hadoop更上层的API,同样的算法在Spark中实现往往只有Hadoop的1/10或者1/100的长度。

Shark类似“SQL on Spark”,是一个在Spark上数据仓库的实现,在兼容Hive的情况下,性能最高可以达到Hive的一百倍。 

Tachyon是一个高效的分布式存储系统。目前发布的为整体项目的部分功能(缓存部分),此部分功能在一次写、多次读的环境下为系统的性能带来最大的提升。


Tachyon AmpLab Li Haoyuan 所开发的一个基于内存的分布式文件系统,出发点是作为 AMPLAB BDAS 的一个组成部分。其声称吞吐量超过HDFS 300多倍。

配置

首先使用tachyon 给的配置
$ cp conf/tachyon-env.sh.template conf/tachyon-env.sh
$ vim conf/tachyon-env.sh
配java_home

启动tachyon

$ ./bin/tachyon-start.sh local

查看是否启动成功,登录 http://localhost:19999
测试功能
$ ./bin/tachyon runTest Basic CACHE_THROUGH
你将会看到类似下面的 log
Basic_File_CACHE_THROUGH has been removed
2014-02-02 09:32:02,760 INFO   (TachyonFS.java:connect) - Trying to connect master @ localhost/127.0.0.1:19998
2014-02-02 09:32:02,791 INFO   (MasterClient.java:getUserId) - User registered at the master localhost/127.0.0.1:19998 got UserId 10
2014-02-02 09:32:02,792 INFO   (TachyonFS.java:connect) - Trying to get local worker host : hy-ubuntu
2014-02-02 09:32:02,800 INFO   (TachyonFS.java:connect) - Connecting local worker @ hy-ubuntu/127.0.1.1:29998
2014-02-02 09:32:02,819 INFO   (CommonUtils.java:printTimeTakenMs) - createFile with fileId 18 took 60 ms.
2014-02-02 09:32:03,194 INFO   (TachyonFS.java:createAndGetUserTempFolder) - Folder /mnt/ramdisk/tachyonworker/users/10 was created!
2014-02-02 09:32:03,198 INFO   (BlockOutStream.java:<init>) - /mnt/ramdisk/tachyonworker/users/10/19327352832 was created!
Passed the test!

关闭tachyon

聪明的你肯定已经知道了。
$ ./bin/tachyon-stop.sh

小结

tachyon 是一款内存存储的系统,他将数据以block(默认1GB)的形式放入内存中,读写性能是HDD和SSD无法媲美的,问题就是耗内存,适合作为map reduce 框架的存储引擎,与spark协同作业是个不错的选择。
更多详细测试请参考:http://www.cnblogs.com/shenerguang/p/3855121.html
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值