互联网技术发展至今,当业务复杂度比较高的时候,采用微服务化是一个有效的手段,但是随着服务的拆分,数据管理工作变得极具挑战。数据中心(OLTP)通过对数据的统一收集和管理,一方面可以建立数据之间的联系,从而带来更大的价值;另一方面还可以提供强大的数据阅览、数据分析、挖掘数据等能力,进而为企业创造价值收益。数据中心(OLTP)不仅可以为不同业务线屏蔽技术难点,还可以降低业务逻辑开发的复杂度,使得开发同学能够专注于业务逻辑的开发。
利用数据中心(OLTP)整合不同业务线的数据,解决数据孤岛问题已经是各个互联网企业的必用手段。
本文将分享爱奇艺内容中台数据中心(OLTP)的设计与实现。
01
方案设计与实现
之前各个业务线自己维护自己的数据和接口,这样既不利于第三方的接入,也浪费了人力进行重复建设,为了解决诸多类似问题,我们进行了如下设计。
2.1 方案设计目标
首先我们梳理了目前系统存在的各种亟待解决的问题:
1.数据孤岛:无法全面的看到内容运营的所有数据
2.重复建设:各业务团队均需具备同样能力的服务建设
3.对接复杂:各业务团队接口规范不统一,增加对接难度
4.耦合严重:各业务团队因需要共享数据,导致服务严重互相依赖
5.开发繁琐:各业务团队需要考虑自研数据中心(OLTP)的技术痛点和难点,无法做到专人做专事,即业务开发只关注自身
为了满足业务长远的发展,我们还制定了一些需要达到的目标:
1.支持百亿级数据的存储
2.支持高QPS的读、写请求
3.统一的字段变化消息通知
4.极少的运维成本,页面操作添加字段
5.通用的查询与保存能力,避免个性化需求带来的额外开发成本
2.2 业务架构图
基于以上的目标我们设计了内容中台数据中心的业务架构,如下图: