python爬虫教程(10)-存储到MongoDB数据库

在网络爬虫时可能要存储大量数据,这时候NoSQL非关系类数据库就非常方便,我们选区mongodb作为例子:

安装mongodb

  1. 进入官网,选择msi进行安装:https://www.mongodb.com/download-center/community
    在这里插入图片描述
  2. 你可以选择complete安装全部或custom自己定制,接下来完成安装。

接下来在你的C盘中新建一个名叫data的文件夹,文件夹里创建两个叫db和log的文件夹,然后在log文件夹后创建一个mongodb.log,完成后应该看起来像这样:
在这里插入图片描述
在这里插入图片描述
data文件夹就是用来存放mongodb数据的文件夹,db文件夹用来存放数据库,log用来存放日志。

接下来打开cmd,输入:

cd C:\Program Files\MongoDB\Server\4.0\bin

然后输入:

mongod.exe --dbpath C:\\data\db

在这里插入图片描述
接下来我们来启动mongodb,首先找到这个路径:

C:\Program Files\MongoDB\Server\4.0\bin

然后先打开mongoed.exe,再打开mongo.exe,你可以输入:show dbs
在这里插入图片描述
还有一种就是以cmd方式打开,输入:

cd C:\Program Files\MongoDB\Server\4.0\bin

然后输入:

mongod.exe --logpath "C:\\data\log\mongodb.log" --logappend --dbpath "C:\\data\db" --serviceName "MongoDB" --install

然后再输入:

net start MongoDB

接下来mongodb就启动成功了!

python操作mongodb

首先我们要安装pymongo库,cmd中输入:

pip install pymongo

我们来试着操作mongodb数据库:

from pymongo import MongoClient
client = MongoClient(host=self.host, port=self.port)
db = client.blog_database
collection = db.blog
all={'a':'1',
     'b':'2'
     }
collection.insert_one(all)

这样我们就在mongodb中插入了一条数据,那么怎么查看呢:

  1. 打开mongod.exe,再打开mongo.exe,输入:
  2. use blog_database
  3. db.blog.find().pretty()

这样就可以查看数据了

RoboMongo

robomongo是mongodb的图形化管理工具,安装可以上官网:https://robomongo.org/download

接下来打开robomongo,选中new connection,点击connect:
在这里插入图片描述
接下来依次点击blog_database - Collections - blog,你就可以看到你的数据了:
在这里插入图片描述

下次见!

  • 1
    点赞
  • 28
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Python爬虫可以使用 PyMongo 库来连接 MongoDB 数据库存储爬取数据。首先需要安装 PyMongo 库,然后使用 MongoClient 连接数据库,并使用 insert_one() 或 insert_many() 方法将数据插入到集合中。代码示例如下: ``` from pymongo import MongoClient client = MongoClient('mongodb://localhost:27017/') db = client['mydatabase'] collection = db['mycollection'] data = {'name': 'John', 'age': 30} collection.insert_one(data) ``` 这是一个简单的例子,你可以根据自己的需要调整连接参数和数据的格式。 ### 回答2: 使用Python编写爬虫并将数据存储MongoDB是一种常见的做法。Python提供了许多用于爬取网页的库,如Requests和BeautifulSoup。而MongoDB是一个流行的NoSQL数据库,适合存储结构灵活的数据。 首先,我们需要安装MongoDBPython的相关库。可以通过pip命令安装pymongo库来连接MongoDB。然后,我们需要创建一个数据库连接,并指定要使用的数据库和集合。我们可以使用pymongo创建一个MongoClient对象,并调用它的数据库和集合方法来指定要使用的数据库和集合。 然后,我们需要定义一个函数或类来处理爬取数据存储的逻辑。在爬取数据时,我们可以使用Requests库发送HTTP请求,获取网页的HTML内容。然后可以使用BeautifulSoup解析HTML内容,提取我们感兴趣的数据。最后,我们可以将提取到的数据组织为字典形式,并使用pymongo的insert_one或insert_many方法将数据存储MongoDB中。 在存储数据库之前,我们可以对数据进行一些处理,例如清洗、过滤或转换。此外,我们还可以设置一些数据模型或结构,以便于后续查询和使用。 最后,我们可以编写一个主函数或脚本来运行爬虫数据存储的逻辑。可以根据需要设置循环或递归来处理多个网页。在每次爬取存储数据之间,可以添加一些延迟或限制,以避免过于频繁的请求。 总而言之,使用Python编写爬虫并将数据存储MongoDB中,需要安装相应的库并建立数据库连接。然后,通过爬取和解析网页的方式获取数据,并将数据以适当的形式存储MongoDB中。这种方式可以灵活地处理不同结构的数据,并提供方便的查询和使用接口。 ### 回答3: Python爬虫是一种用于自动化数据抓取的工具,而MongoDB是一种非关系型数据库,它可以用于存储结构灵活的文档型数据。将Python爬虫抓取到的数据存储MongoDB中,可以提供灵活的存储和查询功能。 首先,我们需要安装MongoDB数据库Python的相关驱动程序,如pymongo。使用pymongo库连接到MongoDB数据库,首先要指定需要连接的数据库名称和集合名称。 接下来,在Python爬虫中,可以使用相应的库(如requests、BeautifulSoup等)进行网页抓取和数据提取。 将抓取到的数据通过pymongo库的insert_one()或insert_many()方法插入到MongoDB中的指定集合中。可以将数据存储为一个字典形式,然后直接插入到集合中。 当我们需要提取或查询存储MongoDB中的数据时,可以使用find()或find_one()方法进行查询,并可以使用相关条件来筛选和过滤数据。查询结果以字典形式返回,可以直接在Python代码中进行进一步的处理和分析。 使用Python爬虫数据存储MongoDB中,具有以下优点: 1. 灵活性:MongoDB是一个非关系型数据库,具有动态的数据模型,数据结构可以很灵活地进行调整和改变,适用于各种数据类型和结构的存储。 2. 扩展性:MongoDB具有良好的可扩展性,可以实现分布式集群、副本集等功能,以提高数据存储的性能和可靠性。 3. 查询性能:使用MongoDB进行数据查询时,可以根据具体需求定义索引,以加快查询速度。 4. 数据处理:Python拥有非常丰富的数据处理和分析库,可以方便地对存储MongoDB中的数据进行处理和分析。 总之,通过将Python爬虫数据存储MongoDB中,我们可以实现灵活、高效的数据存储和查询功能,为进一步的数据分析和应用提供了便利。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值