目标
输出 CNode(https://cnodejs.org/ ) 社区首页的所有帖子标题和链接,以 json 的形式。
- 使用 superagent 抓取网页
- 使用 cheerio 分析网页
内容
安装依赖 express,superagent 和 cheerio
$ npm install express superagent cheerio --save
superagent
superagent是个
http 方面的库,可以发起 get 或 post 请求。 https://cnodejs.org/topic/5378720ed6e2d16149fa16bd
一个简单的post
请求,并设置请求头信息的例子
request
.post('/api/pet')
.send({ name: 'Manny', species: 'cat' })
.set('X-API-Key', 'foobar')
.set('Accept', 'application/json')
.end(function(res){
if (res.ok) {
alert('yay got ' + JSON.stringify(res.body));
} else {
alert('Oh no! error ' + res.text);
}
});
一个简单的get
请求
request
.get('/search')
.end(function(res){
});
请求方法也可以通过参数传递:
request('GET', '/search').end(callback);
delete
,head
,post
,put
和别的http
动作都可以使用,来换个方法看看:
request
.head('/favicon.ico')
.end(function(res){
});
delete
是一个特列,因为它是系统保留的关键字,所以应该用.del()
这个名字:
request
.del('/user/1')
.end(function(res){
});
http
请求默认的方法为get
,所以就像你看到的,下面的这个例子也是可用的:
request('/search', function(res){
});
cheerio
大家可以理解成一个 Node.js 版的 jquery,用来从网页中以 css selector 取数据,使用方式跟 jquery 一样的。
https://github.com/cheeriojs/cheerio
抓取数据
// 引入依赖
var express = require('express');
var superagent = require('superagent');
var cheerio = require('cheerio');
var app = express();
app.get('/', function(req, res, next) {
// 用 superagent 去抓取 https://cnodejs.org/ 的内容
superagent.get('https://cnodejs.org/')
.end(function(err, sres) {
if (err) {
return next(err);
}
// sres.text 里面存储着网页的 html 内容,将它传给 cheerio.load 之后,就可以得到一个实现了 jquery 接口的变量,我们习惯性地将它命名为 `$`
// 剩下就都是 jquery 的内容了
var $ = cheerio.load(sres.text);
var items = [];
var tt = null;
$('#topic_list .topic_title').each(function(index, elem) {
var $element = $(elem);
items.push({
title: $element.attr('title'),
href: $element.attr('href'),
});
});
res.send(items);
});
});
app.listen(3000, function (req, res) {
console.log('app is running at port 3000');
});