nodejs 网络爬虫的一些模块记录

  1. 使用request模块来get网页的内容
  2. 使用cheerio模块来提取网页这种的数据
  3. 使用async模块来简化异步流程控制
  4. 使用debug模块来显示调试信息
  5. 使用cron模块来定时执行任务
  6. 处理uncaughtException异常
process.on('uncaughtException', function(err) {
	console.error('uncaughtException: %s', err.stack)
})

7.使用nodejs pm2进程管理器来启动程序
简单介绍
pm2是一个功能强大的进程管理器,通过pm2 start来启动nodejs程序,当该进程异常退出时,pm2会自动尝试重启进程,这样可以保证nodejs应用的稳定运行。同时pm2还可以很方便的查看其所启动的各个进程的内存占用和日志等信息
8. 处理gbk编码的网页用到的模块

  • iconv模块
  • gbk模块

持续更新中。。。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值