作者:pasca
公众号:蛋蛋团(dandan_tuan)
前言
对于企业来说,随着计算机和互联网的爆发式发展,其带来的海量非结构化数据存储,无疑成为一个难点。
互联网领域有个著名的“八秒定律”,指的是当用户访问网站时,如果等待网页打开的时间超过8秒,会有超过70%的用户放弃等待。对于企业来说,放弃等待也可能意味着用户流失,这是不可忍受的。 而对于云计算中的细分领域云存储厂商而言,利用“中心化”的云存储助推企业减少上云成本,既实现了企业海量非结构化数据的存储难点。最关键是提高了企业内容分发效率,实现了双赢。
1、Who:谁使用对象存储
根据IDC近日发表的《世界的数字化从边缘到核心2025》报告中预测,全球每年产生的数据将从2018年的33ZB增长到175ZB,相当于每天产生491EB的数据,而175ZB约等于1.1万亿GB,如果这些数据存储在DVD光盘中,可比那句著名某奶茶的广告语“围起来可绕地球一圈”还要多222倍。
而Gartner分析,2020 年,全球物联网设备数量将达到204亿。
因此,云也成为了新的增长核心,企业不再拘束于传统数据中心,而采用公有对象存储服务。
IDC预测,到2025年,49%的全球已存储数据将驻留在公共云环境中。而未来将不再是一座座数据孤岛,大数据和云计算紧密关联,为游离的海量提供智能服务。
企业产生的数据量将占到全球数据总量的60%,将取代消费者成为全球数据量产生的第一大主体,这意味着存放非结构化数据的企业级存储将蓬勃发展,真正实现了“对象”的无处不在。
2、What:对象存储是什么
企业级存储架构经过了多年发展,不仅性能大幅提升,功能也在向多元化发展。 而对于企业而言,成本是一个绕不过去的坎。数据越来越多,存储量越来越大。而在这其中,还有一个如何去高效利用存储资源高效利用的平衡点。 为了更加高效地使用存储资源,从而达到节省成本的目的,逐渐出现了自动分级、去重、压缩等技术,而这些通过被完美的运用到了对象存储。
在对象存储之前,有着块存储和文件存储两种存储类型,块存储两种类型。
简单来说,块存储特点是高性能读写,有些数据,是必须在块存储运行的,如数据库。文件存储的特点是共享性高,但是读写性能较慢。
SDN(软件定义网络)可能大家都听说过,但是SDS(软件定义存储)就没几个人知道了。实际上,对象存储的设计原理符合SDS的理念,其特点是低成本、高安全且用户角度上存储池无限拓展。
对象存储是一种网络存储技术,其最大的特点就是将数据与元数据的存储及操作分离,在性能上综合了块存储和文件存储的优势,具备了高性能读写和共享性高的特点。
主要包括对象 (Object)、OSD(对象存储服务器)、文件系统、元数据服务器(Metadata Server,MDS)和网络连接几个组成部分。
而其和块存储最大的区别是只能存储非结构化数据,如音视频文件、压缩包等等。并且如果是传统SAN 或 NAS架构可以应对TB~PB 级存储规模,但当海量数据发展到 PB~EB 级存储规模时,内部组织结构按照树状结构、文件系统形态的传统存储可能就力不从心了。
因此,对象存储服务成为一个很好的选择。
3、Why:为什么他们会使用对象存储
图灵奖得主Jim Gray :每18个月,新增的数据量等于有史以来数据量之和。
如果还是传统架构,对于如此庞大的数据量,无论是任何企业,都只能喊“求放过”。
而其中非结构化数据的内容占据了数据海洋的80%,随着公有云的不断普及,对象存储已经成为传统存储非结构化数据的有效补充,根据计世资讯的报告表明,用户最常用的对象存储服务场景分别为以下:
而对于对象存储,主要解决了以下用户以下几点需求。
- 冷热分层。即通过标准存储(热数据)和低频存储(冷数据)的存储方式,有效降低存储成本。
- 丰富数据处理。存储上云,现在企业不仅仅只是作为单一存储职能。更多的是希望云厂商能够提供一站式的数据管理方案,如音视频/图片的编辑和处理还有水印等功能。这两个资源现在的采集源实在太多,但是某些格式兼容又不是很好。举个例子,如在音视频领域,目前兼容性最好的是H.264+aac的编码方式,然而很多用户上传的确实H.265+aac或者mpeg-4+aac的编码的视频。这直接导致了这种视频不能在浏览器直接观看而必须通过特殊播放器才能支持
- 静态资源分发。存储上云,当然不可能只是作为死数据存储就行了,更重要的是如何送到“全世界用户”的终端去让展示。为了减轻源站服务器的压力以及用户更快的访问到热点资源, 而现在云厂商都搭配了对象存储和CDN(内容分发网络),CDN其原理就是以存储换时延,将热点资源下沉,从而降低访问延迟
- 容灾备份。尽管我们时常看新闻说某某厂商服务崩溃,但是如果从概率学统计,公有云对象存储的服务不可用时间远远的低于自建IDC或者自建私有云服务。对象存储其自身的三副本和纠删码存储机制也能够保证数据设计持久性达到11个9(七牛云、阿里云等)。同时,云存储还会提供跨区域同步和异地双活等机制来最大限度的保证服务可用性。
4、how to do:应用场景分析
在公有云对象存储领域中,视频监控、相册存储、视频原创、智能IOT等已经成为对象存储中的前四大典型用户。
近几年火热的智慧城市,智慧楼宇直接催热了视频监控领域。如果把城市誉为一个人,那遍布城市各个地方的无数摄像头成为了最前沿的传感器,其传输回来海量的监控视频数据对存储也是一场苛刻的考验,为了保证监控视频向网络化、在线化、智能化还有高清化发展,公有对象存储成为了代替传统SD和NVR本地存储方案的最佳方式。 根据中国带宽发展联盟发布的数据,去年Q4季度国内的固定宽带网络平均速度达到了28.06Mb/s,同比提升47.61%,而4G移动网络的平均速度也达到了22.05Mb/s,同比提升21.29%。
人均带宽的提高,直接影响就是娱乐音视频行业的爆发增长,无论是视频还是图片,都在往高清化发展,目前千元机都能购买到4800w像素的手机以及4K视频的拍摄,无不印证着这一点。
这对于对象存储而言,以视频和图片的企业成为公有云对象存储的top3用户。
例如短视频行业,目前已经成为继直播之后的新风口。对象存储服务可以覆盖视频的生成、上传、处理、 分发和播放在内的各个环节,帮助用户以最快速度实现短视频应用的上线。
而且,随着5G的到来,各种IOT智能设备也将呈现不一样的服务方式。目前在物联网领域最大的难点在于数据如何高效的传输和使用。
作为物联网技术的重要组成部分,是感知城市各领域的直接终端,这些终端时时刻刻产生大量非结构化数据。无论是路边的路灯使用状况,还是自动售货机的库存信息。“万物互联”就在眼前。而存储这些PB甚至ZB的数据不的不运用到海量可扩展的对象存储服务。
5、总结
对于用户而言,不仅仅希望只把数据存储起来,而且 要能与他们的计算能力相适配,并且希望可以快速地获得计算能力,以实现数据的灵活运用。 对象存储的趋势是往公有云发展,其能够满足随时随地对数据的处理、分析等需求。甚至结合人工智能,对音视频/图片提供鉴黄、OCR识别等服务。 最终,充分利用企业数据发展驱动力,结合其他产品,为用户提供一站式数据管理平台。