1.爬虫的数据存储 可以放到mysql ,mysql 是关系型数据库 ,是基于硬盘存储的 当并发量太大时,mysql 可能无法支撑, 需要将数据库设计为分布式 mysql当然也支持分布式,但是分布式不是mysql的强项 反观MongoDB,它从一开始设计时就是奔着分布式去的,只需要简单的配置就能实现高效的分布式存储 被大量应用于大数据领域 2.MongoDB是一款基于C++编写的分布式非关系型数据库 noSQL:Not only SQL 3.Mongodb与redis数据库的区别 MongoDB是最像关系型数据库的非关系型数据库,更加适用于大数据. redis则更加倾向于较小的数据,但性能更高一点 4.为什么爬虫需要使用MongoDB? 因为一些爬虫程序要爬取的数据非常多,简单的储存系统已经无法满足需求了
如果报错2502或2503 1、以管理员身份运行cmd命令 (Win + X, A) 2.在该安装包所正的目录下输入:msiexec /package + 安装包名 进行安装 安装过程中出现 出现service MongoDB failed to start,verify that you have sufficient privileges to start system services 错误 删除bin文件夹中mongod.cfg文件下#snmp: 后面的内容 然后进入services.msc找到MongoDB Server,右键属性登录选择本地系统登录,然后Retry 即可 此时MongoDB已经开启,浏览器访问http://localhost:27017/,页面上输出: It looks like you are trying to access MongoDB over HTTP on the native driver port. 说明MongoDB已经启动了,且它的默认端口(27017)没有被占用。
MongoDB mysql 数据库 数据库 集合 表 文档(类似字典) 记录 键值对 字段 #注意:MongoDB中区分大小写 注意事项: 需要注意的是: #1、文档中的键/值对是有序的。 #2、文档中的值不仅可以是在双引号里面的字符串,还可以是其他几种数据类型(甚至可以是整个嵌入的文档)。 #3、MongoDB区分类型和大小写。 #4、MongoDB的文档不能有重复的键。 #5、文档中的值可以是多种不同的数据类型,也可以是一个完整的内嵌文档。文档的键是字符串。除了少数例外情况,键可以使用任意UTF-8字符。 文档键命名规范: #1、键不能含有\0 (空字符)。这个字符用来表示键的结尾。 #2、.和$有特别的意义,只有在特定环境下才能使用。 #3、以下划线"_"开头的键是保留的(不是严格要求的)。
将bin文件夹加入环境变量
在cmd 下输入mongo,看见欢迎信息说明登录成功
此时没有任何的权限限制,默认是管理员角色
#1、创建账号 use admin db.createUser( { user: "root", pwd: "123", roles: [ { role: "root", db: "admin" } ] #角色:root是管理员角色,对admin有操作权限 } ) use test1 db.createUser( { user: "henry", pwd: "123", roles: [ { role: "readWrite", db: "test1" }, #readwrite是可读可写角色 { role: "read", db: "test2" } ] #read是只读角色 } ) key都是固定的不能随便写,每一个key都有特殊含义 在mongodb中用不同的数据库来区分权限,创建管理员账户在admin下创建! db 是一个全局变量 表示当前数据库 db.createUser()是调用一个内部函数用于创建用户 每个账号可以具备多个角色 注意:创建管理员账户在admin下创建. 往其他数据创建用户,需要在admin登录状态下,进入该数据库进行创建 admin可以操作库,集合,文档的增删改查 如果使用其他数据库登录,只能按照自己规定的数据库的角色进行操作
为了安全我们需要在配置文件中设置密码 1.配置文件 bin下的mongod.cfg文档 2.找到文档中的#security: (用来进行安全配置) security: authorization: enabled # 注意缩进
重启MongoDB Server服务,启用认证!
#直接mongo进入程序 已经无法查看数据库 show dbs #登录方式1: authenticationDatabase指定数据库 mongo --port 27017 -u "root" -p "123" --authenticationDatabase "admin" #登录方式2: 进入mongo后 use admin db.auth("root","123") #1 表示登陆成功 进入mongo后 use test1 db.auth("henry","123") #删除账号 注意:只有在admin下登录进入用户注册的数据库才能删除用户账号 db.dropUser('用户名'); #修改密码 db.changeUserPassword(用户名, 新密码); #查看帮助信息 db.help
#创建数据库: use 数据库名称 #如果有则切换没有则创建新的 # 查看数据库: show dbs #注意show dbs 有数据的库显示没有数据的库不显示 #删除 db.dropDatabase() #注意区分大小写
进入指定数据库 #创建集合: db.user #查看集合: show collections show tables # 同样的数据集合中没有数据则 不会显示 #以下数据之间没有任何关系仅仅是名字有相同部分 数据之间的关系需要应用程序维护 db.blog db.blog.user #(建立了一个叫blog.user的集合) db.blog.common #删除集合:如果集合中没有文档,删除的话会返回false,有文档删除才是true db.blog.user.drop() db.user.drop()
#1、没有指定_id 则会默认生成_id值为ObjectId,_id不能重复,且在插入后不可变. #MngoDB的语法就是js的语法 所以 json支持的数据类型 MongoDB都支持 #2、插入单条 user={ "name":"egon", "age":10, 'hobbies':['music','read','dancing'], 'addr':{ 'country':'China', 'city':'BJ' } } db.test.insert(user) # 如果id已经存在则覆盖,否则插入 db.test.save({"_id":10,"name":"henry"}) #3、插入多条 user1={ "_id":1, "name":"alex", "age":10, 'hobbies':['music','read','dancing'], 'addr':{ 'country':'China', 'city':'weifang' } } user2={ "_id":2, "name":"wupeiqi", "age":20, 'hobbies':['music','read','run'], 'addr':{ 'country':'China', 'city':'hebei' } } user3={ "_id":3, "name":"yuanhao", "age":30, 'hobbies':['music','drink'], 'addr':{ 'country':'China', 'city':'heibei' } } user4={ "_id":4, "name":"jingliyang", "age":40, 'hobbies':['music','read','dancing','tea'], 'addr':{ 'country':'China', 'city':'BJ' } } user5={ "_id":5, "name":"jinxin", "age":50, 'hobbies':['music','read',], 'addr':{ 'country':'China', 'city':'henan' } } db.user.insertMany([user1,user2,user3,user4,user5])
find 查找所有匹配数据 findOne 查找第一个匹配的 db.user.find().pretty() # 格式化查询结果 =============================比较运算============================= # SQL:=,!=,>,<,>=,<= # MongoDB:{key:value}代表什么等于什么,"$ne","$gt","$lt","gte","lte",其中"$ne"能用于所有数据类型 #1、select * from db1.user where name = "cxx"; db.user.find({'name':'cxx'}) #2、select * from db1.user where name != "cxx"; db.user.find({'name':{"$ne":'cxx'}}) #3、select * from db1.user where id > 2; db.user.find({'_id':{'$gt':2}}) #4、select * from db1.user where id < 3; db.user.find({'_id':{'$lt':3}}) #5、select * from db1.user where id >= 2; db.user.find({"_id":{"$gte":2,}}) #6、select * from db1.user where id <= 2; db.user.find({"_id":{"$lte":2}}) =============================逻辑运算============================= # SQL:and,or,not # MongoDB:字典中逗号分隔的多个条件是and关系,"$or"的条件放到[]内,"$not" #1、select * from db1.user where id >= 2 and id < 4; db.user.find({'_id':{"$gte":2,"$lt":4}}) #2、select * from db1.user where id >= 2 and age < 40; db.user.find({"_id":{"$gte":2},"age":{"$lt":40}}) #3、select * from db1.user where id >= 5 or name = "cxx"; db.user.find({ "$or":[ {'_id':{"$gte":5}}, {"name":"cxx"} ] }) #4、select * from db1.user where id % 2=1; #id为奇数的数据 db.user.find({'_id':{"$mod":[2,1]}}) #5、上题,取反 db.user.find({'_id':{"$not":{"$mod":[2,1]}}}) =============================成员运算============================= # SQL:in,not in # MongoDB:"$in","$nin" #1、select * from db1.user where age in (20,30,31); db.user.find({"age":{"$in":[20,30,31]}}) #2、select * from db1.user where name not in ('alex','yuanhao'); db.user.find({"name":{"$nin":['alex','yuanhao']}}) =============================查询指定字段============================= db.user.find({'_id':3},{'_id':0,'name':1,'age':1}) #{ "name" : "yuanhao", "age" : 30 } db.user.find({'_id':3},{'name':1,'age':1}) #{ "_id" : 3, "name" : "yuanhao", "age" : 30 } 0表示不显示,1为显示 id默认为1 其余字段默认为0 =============================正则匹配============================= # SQL: regexp 正则 # MongoDB: /正则表达/i i忽略大小写 #1、select * from db1.user where name regexp '^j.*?(g|n)$'; db.user.find({'name':/^j.*?(g|n)$/i}) =============================查询数组============================= #1、查看有dancing爱好的人 db.user.find({'hobbies':'dancing'}) #2、查看既有dancing爱好又有tea爱好的人 db.user.find({ 'hobbies':{ "$all":['dancing','tea'] } }) #3、查看第4个爱好为tea的人 db.user.find({"hobbies.3":'tea'}) #4、查看所有人最后两个爱好 db.user.find({},{'hobbies':{"$slice":-2},"age":0,"_id":0,"name":0,"addr":0}) #5、查看所有人的第2个到第3个爱好 {"$slice":[1,2]}从索引1开始取两个值 db.user.find({},{'hobbies':{"$slice":[1,2]},"age":0,"_id":0,"name":0,"addr":0}) ===============================其他=============================== # 排序:1代表升序,-1代表降序 db.user.find().sort({"name":1,}) db.user.find().sort({"age":-1,'_id':1}) db.user.find().sort({"_id":1,'age':-1}) #先以第一个key为依据排列,第一个相同再按照第二个排列 # 分页:limit代表取多少个document,skip代表跳过前多少个document。 db.user.find().sort({'age':1}).limit(1).skip(2) # 获取数量 db.user.count({'age':{"$gt":30}}) db.user.find({'age':{"$gt":30}}).count() #1、{'key':null} 匹配key的值为null或者没有这个key db.t2.insert({'a':10,'b':111}) db.t2.insert({'a':20}) db.t2.insert({'b':null}) > db.t2.find({"b":null}) { "_id" : ObjectId("5a5cc2a7c1b4645aad959e5a"), "a" : 20 } { "_id" : ObjectId("5a5cc2a8c1b4645aad959e5b"), "b" : null } #2、查找所有 db.user.find() #等同于db.user.find({}) #3、查找一个,与find用法一致,只是只取匹配成功的第一个 db.user.findOne({"_id":{"$gt":3}})
======================================update========================================== update() 方法用于更新已存在的文档。语法格式如下: db.collection.update( <query>, <update>, { upsert: <boolean>, multi: <boolean>, writeConcern: <document> } ) 参数说明:对比update db1.t1 set name='EGON',sex='Male' where name='egon' and age=18; query : 相当于where条件。 update : update的对象和一些更新的操作符(如$,$inc...等,相当于set后面的 upsert : 可选,默认为false,代表如果不存在update的记录不更新也不插入,设置为true代表插入。 multi : 可选,默认为false,代表只更新找到的第一条记录,设为true,代表更新找到的全部记录。 writeConcern :可选,抛出异常的级别。 更新操作是不可分割的:若两个更新同时发送,先到达服务器的先执行,然后执行另外一个,不会破坏文档。 =========================================覆盖式========================================= #注意:除非是删除,否则_id是始终不会变的 #覆盖式: db.user.update({'age':20},{"name":"Wxx","hobbies_count":3}) 是用{"_id":2,"name":"Wxx","hobbies_count":3}覆盖原来的记录 =====================================设置:$set========================================= 通常文档只会有一部分需要更新。可以使用原子性的更新修改器,指定对文档中的某些字段进行更新。 更新修改器是种特殊的键,用来指定复杂的更新操作,比如修改、增加后者删除 #1、update db1.user set name="WXX" where id = 2 db.user.update({'_id':2},{"$set":{"name":"WXX"}}) #2、没有匹配成功则新增一条{"upsert":true} db.user.update({'_id':6},{"$set":{"name":"egon","age":18}},{"upsert":true}) #3、默认只改匹配成功的第一条,{"multi":改多条} db.user.update({'_id':{"$gt":4}},{"$set":{"age":28}}) db.user.update({'_id':{"$gt":4}},{"$set":{"age":38}},{"multi":true}) #4、修改内嵌文档,把名字为alex的人所在的地址国家改成Japan db.user.update({'name':"alex"},{"$set":{"addr.country":"Japan"}}) #5、把名字为alex的人的地2个爱好改成piao db.user.update({'name':"alex"},{"$set":{"hobbies.1":"piao"}}) #6、删除alex的爱好,$unset db.user.update({'name':"alex"},{"$unset":{"hobbies":""}}) =============================增加和减少$inc===================================== #1、所有人年龄增加一岁 db.user.update({}, { "$inc":{"age":1} }, { "multi":true } ) #2、所有人年龄减少5岁 db.user.update({}, { "$inc":{"age":-5} }, { "multi":true } ) ===============================添加删除数组元素================================== 往数组内添加元素:$push #1、为名字为yuanhao的人添加一个爱好read db.user.update({"name":"yuanhao"},{"$push":{"hobbies":"read"}}) #2、为名字为yuanhao的人一次添加多个爱好tea,dancing db.user.update({"name":"yuanhao"},{"$push":{ "hobbies":{"$each":["tea","dancing"]} }}) 按照位置且只能从开头或结尾删除元素:$pop #3、{"$pop":{"key":1}} 从数组末尾删除一个元素 db.user.update({"name":"yuanhao"},{"$pop":{ "hobbies":1} }) #4、{"$pop":{"key":-1}} 从头部删除 db.user.update({"name":"yuanhao"},{"$pop":{ "hobbies":-1} }) #5、按照条件删除元素,:"$pull" 把符合条件的统统删掉,而$pop只能从两端删 db.user.update({'addr.country':"China"},{"$pull":{ "hobbies":"read"} }, { "multi":true } ) =====================================避免添加重复:$addToSet=========================== #自动去除重复 db.urls.insert({"_id":1,"urls":[]}) db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}}) db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}}) db.urls.update({"_id":1},{"$addToSet":{"urls":'http://www.baidu.com'}}) db.urls.update({"_id":1},{ "$addToSet":{ "urls":{ "$each":[ 'http://www.baidu.com', 'http://www.baidu.com', 'http://www.xxxx.com' ] } } } ) =====================================其他======================================== #1、了解:限制大小"$slice",只留最后n个 db.user.update({"_id":5},{ "$push":{"hobbies":{ "$each":["read",'music','dancing'], "$slice":-2 } } }) #2、了解:排序The $sort element value must be either 1 or -1" db.user.update({"_id":5},{ "$push":{"hobbies":{ "$each":["read",'music','dancing'], "$slice":-1, "$sort":-1 } } }) #slice 把之前的值全部删掉 再切割出指定的数据 加入列表 #注意:不能只将"$slice"或者"$sort"与"$push"配合使用,且必须使用"$each"
#1、删除多个中的第一个 db.user.deleteOne({ 'age': 8 }) #2、删除国家为China的全部 db.user.deleteMany( {'addr.country': 'China'} ) #3、删除全部 db.user.deleteMany({})
安装:Robo 3T
from pymongo import MongoClient #1、链接 client=MongoClient('mongodb://root:123@localhost:27017/') # client = MongoClient('localhost', 27017) # db = client["admin"] # db.authenticate("root","123") #2、use 数据库 db=client['db1'] #等同于:client.db1 #3、查看库下所有的集合 print(db.collection_names(include_system_collections=False)) #4、创建集合 table_user = db['user'] #等同于:db.user #5、插入文档 table_user.insert({"_id":30,"name":"wade"}) #6、查找 print(table_user.find_one()) for item in table_user.find(): print(item) print(table_user.find_one({"_id":{"$gte":1},"name":'egon'})) #7、更新 table_user.update({'_id':1},{"$set":{'name':'EGON'}}) #8、传入新的文档替换旧的文档 table_user.save( { "_id":2, "name":'egon_xxx' } ) #9.删除数据 table_user.delete_one({"name":"wade"})
#插入一组数据 from pymongo import MongoClient import datetime client=MongoClient('mongodb://root:123@localhost:27017') table=client['db1']['emp'] l=[ ('张飞','male',18,'20170301','teacher',7300.33,401,1), #以下是教学部 ('张云','male',78,'20150302','teacher',1000000.31,401,1), ('刘备','male',81,'20130305','teacher',8300,401,1), ('关羽','male',73,'20140701','teacher',3500,401,1), ('曹操','male',28,'20121101','teacher',2100,401,1), ('诸葛亮','female',18,'20110211','teacher',9000,401,1), ('周瑜','male',18,'19000301','teacher',30000,401,1), ('司马懿','male',48,'20101111','teacher',10000,401,1), ('袁绍','female',48,'20150311','sale',3000.13,402,2),#以下是销售部门 ('张全蛋','female',38,'20101101','sale',2000.35,402,2), ('鹌鹑蛋','female',18,'20110312','sale',1000.37,402,2), ('王尼玛','female',18,'20160513','sale',3000.29,402,2), ('我尼玛','female',28,'20170127','sale',4000.33,402,2), ('杨过','male',28,'20160311','operation',10000.13,403,3), #以下是运营部门 ('小龙女','male',18,'19970312','operation',20000,403,3), ('郭靖','female',18,'20130311','operation',19000,403,3), ('黄蓉','male',18,'20150411','operation',18000,403,3), ('梅超风','female',18,'20140512','operation',17000,403,3) ] for n,item in enumerate(l): d={ "_id":n, 'name':item[0], 'sex':item[1], 'age':item[2], 'hire_date':datetime.datetime.strptime(item[3],'%Y%m%d'), 'post':item[4], 'salary':item[5] } table.save(d)
#爬取数据 from selenium.webdriver import Chrome from urllib.parse import urlencode import time from MongoDB.爬取京东 import DBTool driver = Chrome() #https://search.jd.com/Search?keyword=%E6%9D%9C%E8%95%BE%E6%96%AF&enc=utf-8&wq=%E6%9D%9C%E8%95%BE%E6%96%AF&page=3 #使用 urlencode 传入指点key-value字典形式,返回值可以直接完成路径拼接 kw = input("搜索:").strip() num = int(input("要获取几页数据:").strip()) def get_all_datas(i,kw): par = {"keyword":kw,"enc":"utf-8","wq":kw,"page":i} kw = urlencode(par) url = "https://search.jd.com/Search?" + kw driver.get(url) #隐式等待 driver.implicitly_wait(10) #执行js代码获取页面总高度 height = driver.execute_script("return document.body.clientHeight") #执行js代码滑动页面.完成页面的加载 driver.execute_script(""" window.scrollTo({ top : %s, behavior:"smooth" });""" % height) #获取商品列表 def get_items(): #获取包裹商品的大标签 ul = driver.find_element_by_class_name("gl-warp") #获取商品列表 items = ul.find_elements_by_class_name("gl-item") #判断数据是否全部加载完毕 if len(items) == 60: return items #没有加载完毕回调函数,直到该页面的数据全部加载完毕 return get_items() #调用获取函数获取数据 items = get_items() #解析商品列表.得到所需数据 for i in items: link = i.find_element_by_css_selector(".p-img a").get_attribute("href") img = i.find_element_by_css_selector(".p-img a img").get_attribute("src") if not img: img = i.find_element_by_css_selector(".p-img a img").get_attribute("data-lazy-img") img = "https:" + img price = i.find_element_by_css_selector(".p-price i").text title = i.find_element_by_css_selector(".p-name a em").text shop_name = i.find_element_by_css_selector(".p-shop a").text commit = i.find_element_by_css_selector(".p-commit strong").text dic = {"link":link,"img":img,"price":price,"title":title,"shop_name":shop_name,"commit":commit} #将数据存放到MongoDB中去 DBTool.insert_data(dic) for i in range(num): i = 2*i+1 get_all_datas(i,kw) time.sleep(30) #关闭浏览器 driver.close() #关闭mongoDB数据库连接 DBTool.close() #DBTool """ 连接数据库 保存数据 """ from pymongo import MongoClient table = None c = None #连接服务 def connect_service(): global table,c c = MongoClient("mongodb://root:123@127.0.0.1:27017") table = c["jd"]["jd_data"] #插入数据 def insert_data(data): if not table: connect_service() table.insert(data) #关闭连接 def close(): c.close()