云栖大会|小米大数据运维管理体系的建设与实践

前言

前段时间，很荣幸能参加云栖大会，并分享交流一个议题，接下来我们来回顾一下

介绍

这次给大家带来的题目是《小米大数据运维管理体系的建设和实践》

今天整个分享分两部分，第一部分我们先来聊聊大数据运维数字化转型相关的内容 看看运维层面如何做到化繁为简，打造极致效率的；

紧接着第二部分，会给大家介绍一下小米大数据的技术架构 大家可以从中了解到小米怎样应对海量数据挑战的。

服务定位

为了帮助大家理解，我们先来简单聊一聊小米服务的架构

整个业务架构按照云计算的分层模型来说分为三层，依次是iass层、pass层、sass层

小米的iass层是一个混合云的现状，涉及IDC、公有云、网络等资源

小米的saas层不仅包含战略业务手机 * IOT * 汽车，还包括互联网、电商等数百个业务线

大数据作为pass层的一员，向下对接基础资源，向上承接业务的数据需求

提供离线报表、实时数仓等多种场景化能力

进一步帮助业务沉淀数据资产，提升整体数据效率

同时，大数据是的集团数字化底座，起到中流砥柱的作用

大数据服务架构

我们再来看下小米服务架构

整个小米的大数据服务是立足于x86和ecs之上的自下而上分为4层，依次是数据采集层、数据存储层、数据计算层、数据平台层

• 数据采集层：主要使用自研的LCS和以Talos为代表的消息队列组合去实现的，这一块也会在后面的分享中展开讲述

• 数据存储层：各类开源和自研存储引擎，包含我们的文件存储HDFS、KV存储HBase、对象存储Ceph等等；其中Pegasus是小米自研的，目前在apache已经开源。

• 数据计算层：小米使用Yarn作为统一的资源管理，基于Yarn之上提供了批处理、流处理多种计算引擎，比如我们常见的MapReduce、Spark、Flink等；除此之外提供丰富的Olap引擎, 满足即席查询和检索需求。

• 数据平台层：我们内部称之为数据工场，主要提供一站式的数据开发和数据管理能力

小米大数据业务发展非常迅速，已经覆盖国内海外多个区域

现已达到千+集群，数万节点的规模，在存储总量上已经近EB，计算任务30w/天

大数据运维转型挑战

如此数据规模，给服务运维带来了很多挑战，接下来，我们重点聊一聊

• 运维成本高：传统运维方案和服务快速发展间的摩擦越来越多，导致运维成本呈墒增趋势，表现在质量、成本、效率各方面

• 服务生命周期断层：大数据服务场景多、差异大，进一步增加了运维复杂度

• 数据孤岛问题导致数据效率难以达到最佳状态

• 运维层面呈经验型单核心发展，导致流程多落地难

轻舟整体能力结构

识别到问题后我们内部经过充分讨论，结合小米长期处于混合云的状态，发起了大数据运维中台-轻舟的整体规划

轻舟的主线是通过建设通用的基线能力、打造极致的垂域能力，来彻底贯通服务的生命周期

轻舟的整体能力结构是两能力+三中心

• 基线能力层包含数据集市和发布中心，是整个运维管理体系的基础

• 垂域能力层是贯穿服务的生命周期的，从服务的创建、运营到消亡，运营是我们日常工作花费时间精力最多的部分，包含服务升级迭代、机器管理、巡检管理等等

轻舟-一体化运维数据集市

在数据上为了解决孤岛问题，我们的解决方案是数据集成、架构解耦

通过构建大数据的一体化运维数据集市，收敛运维周边的所有数据，在数据源头和数据使用方之间做了一层解耦

在数据集市层我们制定了数据规范，将运维数据进行建模和分层处理

最后针对现有的数据源进行ETL调度，最终实现数据统一存储和使用

新的数据架构统一了运维数据体系，解决数据孤岛问题的同时，降低数据使用门槛，

目前整套数据体系已经应用到所有的大数据服务当中，真正做到了数出一孔

再有整个数据场景是闭环的，复杂度由O(n^2)变成O(n)，并且核心数据分析逻辑可复用

整个新的数据架构是以数据场景为中心，取代之前以