Mongodb安装:
sudo apt-get install mongodb
配置文件:
/etc/mongodb.conf
若系统环境为Ubuntu,需要将配置文件中“bindIP 127.0.0.1”给注释掉。
开启服务
shell>service mongod start
关闭服务:
shell>service mongod stop
shell端连接mongodb:
shell>mongo
Mongodb基础语法:
db: 查看当前数据库名称
show dbs: 列出所以在物理上存的数据库
use: 切换数据库,默认数据库为test
>use students
db.dropDatabase(): 删除当前指向数据库
db.createCollection(name,options\capped): 创建集合
name:是要创建集合的名称
optinos:是一个文档,用于指定集合的配置(可选)
> db.createCollection('students')
capped: 默认为false 表示不设置上限,值为true表示设置上限
size: 当capped值为true时,需要指定参数表示上限大小。
> db.createCollection('apollo',{capped : true, size : 5})
show collections: 查看当前集合
db.集合名称.drop: 删除集合
数据类型:
- 下表为MongoDB中常用的几种数据类型:
- Object ID:文档ID
- String:字符串,最常用,必须是有效的UTF-8
- Boolean:存储一个布尔值,true或false
- Integer:整数可以是32位或64位,这取决于服务器
- Double:存储浮点值
- Arrays:数组或列表,多个值存储到一个键
- Object:用于嵌入式的文档,即一个值为一个文档
- Null:存储Null值
- Timestamp:时间戳
- Date:存储当前日期或时间的UNIX时间格式
object id
- 每个文档都有一个属性,为_id,保证每个文档的唯一性
- 可以自己去设置_id插入文档
- 如果没有提供,那么MongoDB为每个文档提供了一个独特的_id,类型为objectID
- objectID是一个12字节的十六进制数
- 前4个字节为当前时间戳
- 接下来3个字节的机器ID
- 接下来的2个字节中MongoDB的服务进程id
- 最后3个字节是简单的增量值
增、删、查、改:
查:db.集合名称.find(document)
$eq 等于
$ne 不等于
$gt 大于
$ge 大于等于
$lt 小于
$le 小于等于
$in 在什么之中
$nin 不在什么之中
$or 或运算
$and 与运算
$not 非运算
>db.students.find( { $or : [ {age : {$eq : 18}}, {gender : {$ne : 1}}]})
等价于mysql中:select * from students where age = 18 or gender != 1';
>db.apollo.find({age : {$in : [21,22]}})
/* 1 */ { "_id" : "20180620", "name" : "tomtom", "age" : 21.0 }
支持正则表达式:使用//或$regex编写正则表达式
>db.apollo.find({name:/^T/})
/* 1 */ { "_id" : "20180620", "name" : "tomtom", "age" : 21.0 } } /* 1 */ { "_id" : "20180621", "name" : "Tom", "age" : 21.0 } /* 2 */ { "_id" : "20180622", "name" : "Tom", "age" : 21.0 }
自定义查询:$where
>db.apollo.find({$where:function(){return this.age >20}})
/* 1 */ { "_id" : "20180620", "name" : "tomtom", "age" : 21.0 } } /* 1 */ { "_id" : "20180621", "name" : "Tom", "age" : 21.0 } /* 2 */ { "_id" : "20180622", "name" : "Tom", "age" : 21.0 }
插入:db.集合名称.insert(document)
插入文档时,如果不指定_id参数,MongoDB会为文档分配一个唯一的ObjectId
例1:
db.apollo.insert({name:'张三',age = 18})
例2:
s1 = { _id : '20180620', name : "李四"}
s1
/* 1 */ { "_id" : ObjectId("5b2a0a99bc825873018323cc"), "name" : "张三", "age" : 18.0 } /* 2 */ { "_id" : "20180620", "name" : "李四", "age" : 20.0 }
更新:db.集合名称.update( {query},{update}, {multi : false\ture} )
query: 查询条件
updata: 更新操作的内容
multi: 默认为false,表示只更新找到的第一条记录,值为true表示把满足条件的文档全部更新
>db.apollo.update({'age' : 18}, { $set : {'name':'TomTom'}} , {multi:true})
相当于sql语句中: update apollo set name = 'TomTom' where age = 18;
/* 1 */ { "_id" : ObjectId("5b2a0a99bc825873018323cc"), "name" : "TomTom", "age" : 18.0 } /* 2 */ { "_id" : "20180620", "name" : "TomTom", "age" : 18.0 }
保存:db.集合。save(document)
如果_id 存在,则更新,若_id不存在,则新建
>db.apollo.save({_id:'20180620', 'name':'tomtom','age':21})
/* 2 */ { "_id" : "20180620", "name" : "tomtom", "age" : 21.0 }
删除:db.集合.remove({query},{justOne})
query: 可选,删除的文档条件
justOne: 可选,默认为false,删除多条,如果设为true则删除一条
>db.apollo.remove({age : 21})
不可以对 capped collection执行删除文档操作,但可以删除整个集合。
分页查询:
方法limit():用于读取指定数量的文档: db.集合.find().limit(number)
方法skip():用于跳过指定数量的文档: db.集合.find().skip(number)
两个方法可以同时使用:db.集合.find().limit(number).skip(number) 不分先后,先执行skip()再执行limit()
投影:对于需要显示的字段,设置为1即可,不设置即为不显示,对于_id列默认是显示的,如果不显示需要明确设置为0
语法: db.集合名称.find({},{字段名称:1,...})
>db.apollo.find( {}, {name : 1, _id : 0})
/* 1 */ { "name" : "tomtom" } /* 2 */ { "name" : "Tom" }
排序:
方法sort(),用于对结果集进行排序
语法:db.集合名称.find().sort({字段:1,...})
1是正序,-1是逆序
先按age逆序排序,再按AGE正序排序
>db.apollo.find({}).sort({age:-1,AGE:1})
/* 1 */ { "_id" : "20180622", "name" : "Tom", "age" : 20.0 } /* 2 */ { "_id" : "20180621", "name" : "Tom", "age" : 19.0 } /* 3 */ { "_id" : "20180620", "name" : "tomtom", "age" : 18.0 } /* 4 */ { "_id" : ObjectId("5b2a4d155335cfb7eccb15bc"), "name" : "666", "AGE" : 22.0 } /* 5 */ { "_id" : ObjectId("5b2a4d095335cfb7eccb15bb"), "name" : "haha", "AGE" : 55.0 }
统计:
方法count()用于统计结果集中文档条数
语法:db.集合.find({}).conut()
统计age为18的数:
>db.apollo.find({age:18}).count()
消除去重:
方法distinct()对数据进行去重
语法:db.集合.distince('去重字段,{条件}')
查找年龄大于18的性别(去重)
>db.apollo.distinct("name", {age : {$eq : 18}})
/* 1 */ [ "tomtom", "Tom" ]
聚合aggregate:
db.集合名称.aggregate([{管道:{表达式}}])
管道
- 在mongodb中,管道具有同样的作用,文档处理完毕后,通过管道进行下一次处理
- 常用管道
- $group:将集合中的文档分组,可用于统计结果
- $match:过滤数据,只输出符合条件的文档
- $project:修改输入文档的结构,如重命名、增加、删除字段、创建计算结果
- $sort:将输入文档排序后输出
- $limit:限制聚合管道返回的文档数
- $skip:跳过指定数量的文档,并返回余下的文档
- $unwind:将数组类型的字段进行拆分
表达式
- 处理输入文档并输出
- 语法
表达式:'$列名'
- 常用表达式
- $sum:计算总和,$sum:1同count表示计数
- $avg:计算平均值
- $min:获取最小值
- $max:获取最大值
- $push:在结果文档中插入值到一个数组中
- $first:根据资源文档的排序获取第一个文档数据
- $last:根据资源文档的排序获取最后一个文档数据
分别对库中age年龄段进行分组,并统计,且_id是必带;$sum:1 则表示为每查找到一次数据加1
>db.apollo.aggregate([{$group:{_id:'$age',counter:{$sum:1}}}])
/* 1 */ { "_id" : null, "counter" : 2.0 } /* 2 */ { "_id" : 19.0, "counter" : 1.0 } /* 3 */ { "_id" : 18.0, "counter" : 2.0 }
使用$$ROOT可以将文档内容加入到结果集的数组中
$match
db.stu.aggregate([
{$match:{age:{$gt:20}}}
])
- 查询年龄大于20的男生、女生人数
db.stu.aggregate([
{$match:{age:{$gt:20}}},
{$group:{_id:'$gender',counter:{$sum:1}}}
])
$project
- 修改输入文档的结构,如重命名、增加、删除字段、创建计算结果
- 例1:查询学生的姓名、年龄
db.stu.aggregate([
{$project:{_id:0,name:1,age:1}}
])
- 例2:查询男生、女生人数,输出人数
db.stu.aggregate([
{$group:{_id:'$gender',counter:{$sum:1}}},
{$project:{_id:0,counter:1}}
])
$sort
- 将输入文档排序后输出
- 例1:查询学生信息,按年龄升序
b.stu.aggregate([{$sort:{age:1}}])
- 例2:查询男生、女生人数,按人数降序
db.stu.aggregate([
{$group:{_id:'$gender',counter:{$sum:1}}},
{$sort:{counter:-1}}
])
$limit
- 限制聚合管道返回的文档数
- 例1:查询2条学生信息
db.stu.aggregate([{$limit:2}])
$skip
- 跳过指定数量的文档,并返回余下的文档
- 例2:查询从第3条开始的学生信息
db.stu.aggregate([{$skip:2}])
- 例3:统计男生、女生人数,按人数升序,取第二条数据
db.stu.aggregate([
{$group:{_id:'$gender',counter:{$sum:1}}},
{$sort:{counter:1}},
{$skip:1},
{$limit:1}
])
- 注意顺序:先写skip,再写limit
$unwind
- 将文档中的某一个数组类型字段拆分成多条,每条包含数组中的一个值
语法1
- 对某字段值进行拆分
db.集合名称.aggregate([{$unwind:'$字段名称'}])
- 构造数据
db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})
- 查询
db.t2.aggregate([{$unwind:'$size'}])
语法2
- 对某字段值进行拆分
- 处理空数组、非数组、无字段、null情况
db.inventory.aggregate([{
$unwind:{
path:'$字段名称',
preserveNullAndEmptyArrays:<boolean>#防止数据丢失
}
}])
- 构造数据
db.t3.insert([
{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },
{ "_id" : 2, "item" : "b", "size" : [ ] },
{ "_id" : 3, "item" : "c", "size": "M" },
{ "_id" : 4, "item" : "d" },
{ "_id" : 5, "item" : "e", "size" : null }
])
- 使用语法1查询
db.t3.aggregate([{$unwind:'$size'}])
- 查看查询结果,发现对于空数组、无字段、null的文档,都被丢弃了
- 问:如何能不丢弃呢?
- 答:使用语法2查询
db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])
超级管理员
- 为了更安全的访问mongodb,需要访问者提供用户名和密码,于是需要在mongodb中创建用户
- 采用了角色-用户-数据库的安全管理方式
- 常用系统角色如下:
- root:只在admin数据库中可用,超级账号,超级权限
- Read:允许用户读取指定数据库
- readWrite:允许用户读写指定数据库
- 创建超级管理用户
use admin
db.createUser({
user:'admin',
pwd:'123',
roles:[{role:'root',db:'admin'}]
})
启用安全认证
- 修改配置文件
sudo vi /etc/mongod.conf
- 启用身份验证
- 注意:keys and values之间一定要加空格, 否则解析会报错
security:
authorization: enabled
- 重启服务
sudo service mongod stop
sudo service mongod start
- 终端连接
mongo -u 'admin' -p '123' --authenticationDatabase 'admin'
普通用户管理
- 使用超级管理员登录,然后进入用户管理操作
- 查看当前数据库的用户
use test1
show users
- 创建普通用户
db.createUser({
user:'t1',
pwd:'123',
roles:[{role:'readWrite',db:'test1'}]
})
- 终端连接
mongo -u t1 -p 123 --authenticationDatabase test1
切换数据库,执行命令查看效果
修改用户:可以修改pwd、roles属性
db.updateUser('t1',{pwd:'456'})
复制(副本集)
什么是复制
- 复制提供了数据的冗余备份,并在多个服务器上存储数据副本,提高了数据的可用性,并可以保证数据的安全性
- 复制还允许从硬件故障和服务中断中恢复数据
为什么要复制
- 数据备份
- 数据灾难恢复
- 读写分离
- 高(24* 7)数据可用性
- 无宕机维护
- 副本集对应用程序是透明
复制的工作原理
- 复制至少需要两个节点A、B...
- A是主节点,负责处理客户端请求
- 其余的都是从节点,负责复制主节点上的数据
- 节点常见的搭配方式为:一主一从、一主多从
- 主节点记录在其上的所有操作,从节点定期轮询主节点获取这些操作,然后对自己的数据副本执行这些操作,从而保证从节点的数据与主节点一致
- 主节点与从节点进行数据交互保障数据的一致性
复制的特点
- N 个节点的集群
- 任何节点可作为主节点
- 所有写入操作都在主节点上
- 自动故障转移
- 自动恢复
设置复制节点
- 接下来的操作需要打开多个终端窗口,而且可能会连接多台ubuntu主机,会显得有些乱,建议在xshell中实现
- step1:创建数据库目录t1、t2
- 在Desktop目录下演示,其它目录也可以,注意权限即可
mkdir t1
mkdir t2
- step2:使用如下格式启动mongod,注意replSet的名称是一致的
mongod --bind_ip 192.168.196.128 --port 27017 --dbpath ~/Desktop/t1 --replSet rs0
mongod --bind_ip 192.168.196.128 --port 27018 --dbpath ~/Desktop/t2 --replSet rs0
- step3:连接主服务器,此处设置192.168.196.128:27017为主服务器
mongo --host 192.168.196.128 --port 27017
- step4:初始化
rs.initiate()
- 初始化完成后,提示符如下图:
- step5:查看当前状态
rs.status()
- 当前状态如下图:
- step6:添加复本集
rs.add('192.168.196.128:27018')
- step7:复本集添加成功后,当前状态如下图:
- step8:连接第二个mongo服务
mongo --host 192.168.196.128 --port 27018
- 连接成功后,提示符如下图:
- step9:向主服务器中插入数据
use test1
for(i=0;i<10;i++){db.t1.insert({_id:i})}
db.t1.find()
- step10:在从服务器中插查询
- 说明:如果在从服务器上进行读操作,需要设置rs.slaveOk()
rs.slaveOk()
db.t1.find()
其它说明
- 删除从节点
rs.remove('192.168.196.128:27018')
- 关闭主服务器后,再重新启动,会发现原来的从服务器变为了从服务器,新启动的服务器(原来的从服务器)变为了从服务器
备份
- 语法
mongodump -h dbhost -d dbname -o dbdirectory
- -h:服务器地址,也可以指定端口号
- -d:需要备份的数据库名称
- -o:备份的数据存放位置,此目录中存放着备份出来的数据
- 例1
sudo mkdir test1bak
sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak
恢复
- 语法
mongorestore -h dbhost -d dbname --dir dbdirectory
- -h:服务器地址
- -d:需要恢复的数据库实例
- --dir:备份数据所在位置
- 例2
mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1
与python交互
- 点击查看官方文档
- 安装python包
进入虚拟环境
sudo pip install pymongo
或源码安装
python setup.py
- 引入包pymongo
import pymongo
- 连接,创建客户端
client=pymongo.MongoClient("localhost", 27017)
- 获得数据库test1
db=client.test1
- 获得集合stu
stu = db.stu
- 添加文档
s1={name:'gj',age:18}
s1_id = stu.insert_one(s1).inserted_id
- 查找一个文档
s2=stu.find_one()
- 查找多个文档1
for cur in stu.find():
print cur
- 查找多个文档2
cur=stu.find()
cur.next()
cur.next()
cur.next()
- 获取文档个数
print stu.count()
from pymongo import * #获取数据库连接 client = MongoClient('mongodb://192.168.5.154:27017') #有验证登录 client = MongoClient('mongodb:'//username : passwrod @IPV4 :port) #切换数据库 db = client.apollo #获取集合 stu = db.apollo #插入数据: stu.insert_one({'name':'python','age':28}) #更新数据:注意,mongondb限制,新数据不能超过旧数据存储空间 stu.update_one({'name':'python'},{'$set':{'name':'pycham'}}) #删除数据:mondodb不允许删除,只能使用drop()删除所有数据 # stu.delete_one({'name':'pycham'}) #查询,find返回的是一个cursor对象(一个字典),需要对其遍历 #sort排序,1为正序,-1为逆序,skip()为跳过多少行数据,limit()取多少行数据 result = stu.find({'age':{'$gt':10}}).sort('age',1).skip(1).limit(1) for i in result: print(i)