爬去数据后存入 mongod数据库中

1:在settings.py 文件中设置

# MONGODB 主机名                  
MONGODB_HOST = "127.0.0.1"        
                                  
# MONGODB 端口号                  
MONGODB_PORT = 27017              
                                  
# 数据库名称                      
MONGODB_DBNAME = "xxx"         
                                  
# 存放数据的表名称                

MONGODB_SHEETNAME = "xxxx"


2: 在pipeslines.py 文件中

import json                                                   
import pymongo                                                
                                                              
from scrapy.conf import settings                              
                                                                                                           
class DoubanPipeline(object):                                 
                                                              
    def __init__(self):                                       
        host = settings["MONGODB_HOST"]                       
        port = settings["MONGODB_PORT"]                       
        dbname = settings["MONGODB_DBNAME"]                   

        sheetname= settings["MONGODB_SHEETNAME"]    

#创建数据库连接          

        client = pymongo.MongoClient(host = host, port = port)

#指定数据库

        mydb = client[dbname]             

#指定数据存放的表明                    

        self.sheet = mydb[sheetname]                          
                                                              
                                                              
    def process_item(self,item,spider):                       

       data = dict(item)             

#插入数据                         

       self.sheet.insert(data)                                

       return item                           


3:      关于mongo的操作

开启数据库:sudo service mongod start

进入数据库:mongo

显示当前:show dbs

进入库:use xxx

显示表:show collections

查看表:db.doubanmovies.find()


关闭数据库:sudo service mongod stop

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值