nodejs 写爬虫爬取最近上映电影数据

直接上代码:这是http模块

'use strict'
//引入内建和第三方模块
const https = require("https")
const url = require("url")
const Promise = require("bluebird")

//创建启动服务模块
function start(url){
	return new Promise((resolve,reject)=>{
			https.get(url,(res)=>{
			const statusCode = res.statusCode
			const contentType = res.headers['content-type']

			let error

			if(statusCode != 200){
				error = new Error(`请求失败.\n`+`code:${statusCode}`)
			}

			if(error){
				console.log(error)
				res.resume()
				return
			}

			res.setEncoding("utf-8")
			let getData = ""

			res.on("data",(datachunk)=>{
				getData += datachunk
			})

			res.on("end",()=>{
				resolve(getData)
			})
		}).on("error",(e)=>{
			reject(e)
			console.log("获取数据出错")
		})
	})
}


exports.start = start

主程序入口:

const crawler = require("./crawler")
const querystring = require("querystring")
const cheerio = require("cheerio")
const fs = require("fs")
//url
const douban_url = "https://movie.douban.com/nowplaying/chengdu/"

crawler.start(douban_url).then(res=>{
	var $ = cheerio.load(res)
	var data = []
	$('#nowplaying .list-item').each(function(i,e){
		var obj = "obj" + i
		obj = {}
		obj.title = $(e).attr("data-title")+"\n"
		obj.score = $(e).attr("data-score")+"\n"
		obj.src = $('#nowplaying .list-item img').attr("src")+"\n"
		data.push(obj)
	})
	fs.writeFileSync("./get_data/data.txt",JSON.stringify(data));
})


效果展示:


  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值