由于定位处于大数据(Big Data),我觉得更确切的说是超数据(Super Data),几乎从数据获取到运维,建模分析都得一个人来
上学期折腾完数据的获取部分,总体感觉大公司就是牛逼,这与之前的运维经验了解相一致,没有让我对国内大公司的运维产生负面感觉
这学期伊始就必须解决大数据存储问题了,之前偷懒使用文件系统进行存储,带来的极大I/O开销以及数据冗余性使得我研究了一段时间的BFS
可惜对一个文件系统的研究并不是我的初衷,虽然可以折腾,但是硕士期间精力有限,无法向本科那样无忧
故而转战数据库系统,争取找到一个适合的数据存储平台
由于实验室除我外不可能再有人会搞运维了,故而定位明确,后期运维轻松,服务性能稳定且不差
Cassandra篇
这东西折腾了两周,最近发现似乎有数据瓶颈,当数据达到5386660条的时候就增长过慢了
虽然这东西加机器相当容易,写玩脚本or配置步骤,几乎就是傻瓜操作了,可是这个数据瓶颈让我异常蛋疼。。。