数据湖这个大坑,是怎么挖的?
数据在刚刚开始的时候,还是小体量,就好比创业公司,还不足够引起人们的注意。
但是当数据体量上来了,就好像变成了独角兽。
10个人去银行产生的数据,还能勉强搞定,但是成百上千个呢?甚至更多呢?你会说,银行有oracle这种强大的数据库啊,但是,传统数据库目前来说,只能做到处理、读写、删除一些需求,更多的还是存储数据的用途。
把这些数据聚合在一起分析,数据库做不到。
于是,人们在现有的数据库基础上,对数据进行加工,也就是常说的ETL:抽取、转换、加载。
然后,数据仓库就生成了,里面有各种不同的数据,分成不同的业务包,都是为了数据分析,用于BI和报表上面。
数仓这个概念吧,有了很久了,里面存了很多不同类型的数据,就好比是千万张Excel表格,都在这个仓库里,你要的时候可以查询。
可是时间长了,有人觉得数仓还不够,再造一个概念?我有时候不一定用得到现在的数据,需要过往的数据,怎么办?那就把所有数据汇集在一起,无论是excel还是word,先把这些数据和文件存在一起,等用的时候再说。
数据湖里,可能有如下的这些数据结构:<