MySQL高可用运营
业务最终一致性,cap、base。
允许丢失和对账、异步达成。
金融业务的特性。
事物一致性,oltp、acid。
可靠性高,99.99%,53min。
大规模系统的问题。
单台设备故障导致整体不可用。
服务关联性,互相影响故障扩散。
系统规格说明
目录
1. 引言 6
1.1. 编制目的 6
1.2. 预期的读者和阅读建议 6
1.3. 术语和缩略语 6
1.4. 文档约定 6
2. 项目概述 7
2.1. 范围 7
2.2. 用户的特点 7
2.3. 假定条件和约束限制 7
3. 主要业务流程 7
3.1. 业务架构 8
3.2. 业务流程总图 8
3.3. XX系统业务流程图 10
4. 功能需求 11
4.1. 功能需求总述 11
4.1.1. 特征需求列表 11
4.1.2. 系统整体模块图 12
4.1.3. 角色、权限需求 13
4.1.4. 系统概念模型(ER图) 14
4.2. 功能需求1 15
4.3. 功能需求2 18
5. 非功能需求 18
5.1. 性能需求 18
用户渗透率 18
高峰时同时在线用户数 18
单位时间内最大用户点播请求数 19
运行速度 19
5.2. 安全保密需求 20
5.3. 扩展性需求 20
5.4. 稳定性需求 20
5.5. 部署需求 21
5.6界面要求 21
6 项目总体设计 22
6.1 系统的关键技术 22
6.2系统体系结构 22
6.3运行环境 25
6.3.1硬件环境 25
6.3.2软件环境 26
6.4外部接口 27
6.4.1接口1 27
6.4.2 外部接口2[示例] 28
6.5系统容错处理 30
6.5.1出错信息 30
6.5.2补救措施 31
6.5.3系统维护设计 31
7 项目详细设计 31
7.1 系统物理模型 31
7.2 系统逻辑模型 32
7.3 系统功能1 33
7.3.1 子功能1 33
7.3.2 子功能2 33
7.3.3 源数据变化更新[示例] 34
7.4 系统功能2 38
7.4.1 子功能1 38
7.4.1 子功能2 38
8 项目测试 38
8.1 测试计划制定 38
8.2测试用例和测试方案 39
9. 项目部署 40
10. 参考文献 40
PG多维存储、SQL流计算
PostgreSQL 多维存储与SQL流计算案例分享
• 什么是数据噪音
• 什么是隐式噪音
• 多维聚集
• 空间切割
MySQLTDSQL事务处理技术
0 数据异常
读数据异常
写数据异常
写偏序异常
数据异常发生的原因
1 MySQL的事务处理技术概述
2 MySQL的并发访问控制技术
3 主流数据库的事务处理技术
数据仓库与HDFS的列存储技术
单机数据(仓)库
数据量GB级(最多几个TB)
Infobright
MPP数据(仓)库
Share-nothing存储架构,水平扩展
Sybase IQ / Teradata / HANA / Greenplum
SQL on Hadoop
采用HDFS作为统一的数据存储
采用MapReduce-like或者MPP-like的计算引擎
Hive / Spark SQL / Presto / Impala / HAWQ
微博热点事件背后的数据库运维经验总结
了解资源的内部工作原理
了解资源的优缺点和性能
了解资源的应用场景
了解不同资源的不同特性
快速定位问题,快速恢复
提供技术支持和内部培训
参与项目技术选型和提供架构设计建议
新技术调研
从数据库到数据中心
DDB和NDC是什么?
DDB是网易老牌分布式数据库,是网易大体量应用的标配
NDC的网易平台化的异构数据库数据迁移,同步和订阅服务
我们的现状
DDB v5向平台化演进
DDB和NDC分别管理,使用不同用户体系,存在不便
DDB和NDC元数据不共享,但NDC在DDB元数据变更时存在耦合
我们的展望
DDB和NDC产品形态融合,对外提供统一的管理接口
提供更加高端的解决方案,如异地机房单元化,双向同步,多种OLTP到OLAP