MongoDB知识树整理【二 高级】

mongodb的高级操作，包括聚合、主从复制、分片、备份与恢复、MR

---

聚合 aggregate

• 聚合(aggregate)主要用于计算数据，类似sql中的sum()、avg()
• 语法

db.集合名称.aggregate([{管道:{表达式}}])

管道

• 管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入

ps ajx | grep mongo

• 在mongodb中，管道具有同样的作用，文档处理完毕后，通过管道进行下一次处理
• 常用管道
  • $group：将集合中的文档分组，可用于统计结果
  • $match：过滤数据，只输出符合条件的文档
  • $project：修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
  • $sort：将输入文档排序后输出
  • $limit：限制聚合管道返回的文档数
  • $skip：跳过指定数量的文档，并返回余下的文档
  • $unwind：将数组类型的字段进行拆分

表达式

• 处理输入文档并输出
• 语法

表达式:'$列名'

• 常用表达式
  • $sum：计算总和，$sum:1同count表示计数
  • $avg：计算平均值
  • $min：获取最小值
  • $max：获取最大值
  • $push：在结果文档中插入值到一个数组中
  • $first：根据资源文档的排序获取第一个文档数据
  • $last：根据资源文档的排序获取最后一个文档数据

 

-------------------------------------------------------------------------------------------------------------------------------------------------------------------

$group

• 将集合中的文档分组，可用于统计结果
• _id表示分组的依据，使用某个字段的格式为'$字段'
• 例1：统计男生、女生的总人数

db.stu.aggregate([
    {$group:
        {
            _id:'$gender',
            counter:{$sum:1}
        }
    }
])

Group by null

• 将集合中所有文档分为一组
• 例2：求学生总人数、平均年龄

db.stu.aggregate([
    {$group:
        {
            _id:null,
            counter:{$sum:1},
            avgAge:{$avg:'$age'}
        }
    }
])

透视数据

• 例3：统计学生性别及学生姓名

db.stu.aggregate([
    {$group:
        {
            _id:'$gender',
            name:{$push:'$name'}
        }
    }
])

• 使用$$ROOT可以将文档内容加入到结果集的数组中，代码如下

db.stu.aggregate([
    {$group:
        {
            _id:'$gender',
            name:{$push:'$$ROOT'}
        }
    }
])

------------------------------------------------------------------------------------------------------------------------------------------------------------------------

索引

• 和mysql中的索引概念相同，索引也是为了查询速度的提升
• mongodb也支持索引，以提升查询速度

 

mongodb的客户端shell同样也是一个js编译器，所以可以通过写js代码来实现mongodb的一些相关操作，比如插入数据

for(i=0;i<100000;i++){
    db.t1.insert({name:'test'+1,age:i})
}

查询数据时的性能测试：

• 查找数据         db.t1.find({name:'test10000'})
• 使用explain()命令进行查询性能分析                db.t1.find({name:'test10000'}).explain('executionStats')

其中的executionStats下的executionTimeMillis表示整体查询时间，单位是毫秒

性能分析结果如下图【其中的96表示使用的时间为96毫秒】

• 创建索引的语法：

#创建索引
#1表示升序，-1表示降序

db.集合.ensureIndex({属性：1})
如：对name属性建立索引
db.t1.ensureIndex({name:1})

• 对索引属性查询

执行同样的查询，并进行查询性能分析

db.t1.find({name:'test10000'}).explain('executionStats')

基于那个属性查询，就基于那个属性建立索引

 

•  索引的命令

 

--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

超级管理员

• 为了更安全的访问mongodb，需要访问者提供用户名和密码，于是需要在mongodb中创建用户
• 采用了角色-用户-数据库的安全管理方式
• 常用系统角色如下：
  • root：只在admin数据库中可用，超级账号，超级权限
  • Read：允许用户读取指定数据库
  • readWrite：允许用户读写指定数据库
• 创建超级管理用户

use admin
db.createUser({
    user:'admin',
    pwd:'123',
    roles:[{role:'root',db:'admin'}]
})

启用安全认证

• 修改配置文件

sudo vi /etc/mongod.conf

• 启用身份验证
• 注意：keys and values之间一定要加空格, 否则解析会报错

security:
  authorization: enabled

• 重启服务

sudo service mongod stop
sudo service mongod start

• 终端连接

 mongo -u 'admin' -p '123' --authenticationDatabase 'admin'

普通用户管理

• 使用超级管理员登录，然后进入用户管理操作
• 查看当前数据库的用户

use test1
show users

• 创建普通用户

db.createUser({
    user:'t1',
    pwd:'123',
    roles:[{role:'readWrite',db:'test1'}]
})

• 终端连接

mongo -u t1 -p 123 --authenticationDatabase test1

-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

复制（副本集）

什么是复制

• 复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提高了数据的可用性，并可以保证数据的安全性
• 复制还允许从硬件故障和服务中断中恢复数据

为什么要复制

• 数据备份
• 数据灾难恢复
• 读写分离
• 高（24* 7）数据可用性
• 无宕机维护
• 副本集对应用程序是透明

复制的工作原理

• 复制至少需要两个节点A、B...
• A是主节点，负责处理客户端请求
• 其余的都是从节点，负责复制主节点上的数据
• 节点常见的搭配方式为：一主一从、一主多从
• 主节点记录在其上的所有操作，从节点定期轮询主节点获取这些操作，然后对自己的数据副本执行这些操作，从而保证从节点的数据与主节点一致
• 主节点与从节点进行数据交互保障数据的一致性

复制的特点

• N 个节点的集群
• 任何节点可作为主节点
• 所有写入操作都在主节点上
• 自动故障转移
• 自动恢复

设置复制节点

• 接下来的操作需要打开多个终端窗口，而且可能会连接多台ubuntu主机，会显得有些乱，建议在xshell中实现
• step1:创建数据库目录t1、t2
• 在Desktop目录下演示，其它目录也可以，注意权限即可

mkdir t1
mkdir t2

• step2:使用如下格式启动mongod，注意replSet的名称是一致的

mongod --bind_ip 192.168.196.128 --port 27017 --dbpath ~/Desktop/t1 --replSet rs0
mongod --bind_ip 192.168.196.128 --port 27018 --dbpath ~/Desktop/t2 --replSet rs0

• step3:连接主服务器，此处设置192.168.196.128:27017为主服务器

mongo --host 192.168.196.128 --port 27017

• step4:初始化

rs.initiate()

• 初始化完成后，提示符如下图：

• step5:查看当前状态

rs.status()

• 当前状态如下图：

 

• step6:添加复本集

rs.add('192.168.196.128:27018')

• step7:复本集添加成功后，当前状态如下图：

 

• step8:连接第二个mongo服务

mongo --host 192.168.196.128 --port 27018

• 连接成功后，提示符如下图：

• step9:向主服务器中插入数据

use test1
for(i=0;i<10;i++){db.t1.insert({_id:i})}
db.t1.find()

• step10:在从服务器中插查询
• 说明：如果在从服务器上进行读操作，需要设置rs.slaveOk()

rs.slaveOk()
db.t1.find()

其它说明

• 删除从节点

rs.remove('192.168.196.128:27018')

• 关闭主服务器后，再重新启动，会发现原来的从服务器变为了从服务器，新启动的服务器（原来的从服务器）变为了从服务器

---

--------------------------------------------------------------------------------------------------------------------------------------------------------------------

备份

• 语法

mongodump -h dbhost -d dbname -o dbdirectory

• -h：服务器地址，也可以指定端口号
• -d：需要备份的数据库名称
• -o：备份的数据存放位置，此目录中存放着备份出来的数据
• 例1

sudo mkdir test1bak
sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak

数据存在bson里面，结构存在json里面了

恢复

• 语法

mongorestore -h dbhost -d dbname --dir dbdirectory

• -h：服务器地址
• -d：需要恢复的数据库实例
• --dir：备份数据所在位置
• 例2

mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1

-----------------------------------------------------------------------------------------------------------------------------------------------------------------------

分片

 

----------------------------------------------------------------------------------------------------------------------------------------------------------------------

MapReduce