果壳网科学人文章采集爬虫分享

大数据时代必备技能 - 神箭手云爬虫 -一站式云端通用爬虫开发平台 神箭手云爬虫多样化采集网页内容，快速产生大量而优质的内容。

1.打开神箭手云爬虫官网

2.创建爬虫任务

(1) 在首页点击“爬虫市场”，在神箭手云市场中搜索果壳网；

(2)找到果壳网科学人文章采集爬虫，点击“免费获取”；

3.管理爬虫

成功获取果壳网科学人文章采集爬虫之后就可以使用该爬虫采集果壳网上科学人的所有文章，包括文章标题，内容，作者，作者头像，文章封面图，发布日期，文章分类等。

(1) 在控制面板中，找到果壳网科学人文章采集爬虫，点击“管理”。

(2)进入果壳网科学人文章采集爬虫后，点击右上角的“启动”，采集到的数据可以在爬取结果页面上查看。

4.数据管理

采集到的数据：

(1)可以选择发布到网站，如wecenter\wordpress\discuz\dede\帝国等cms系统

(2)也可以发布到数据库

(3)或者导出文件到本地

具体设置都在“数据发布&导出”中

 

转载于:https://my.oschina.net/sosozzzx/blog/793708