node爬虫工具

  1. superagent    (superagent是node里一个非常方便的、轻量的、渐进式的第三方客户端请求代理模块,用他来请求目标页面)  

    安装:  npm install superagent --save
  2. nightmare      (自动化测试包,处理动态页面)

    安装: npm install nightmare --save
  3. cheerio          (cheerio相当于node版的jQuery,用过jQuery的同学会非常容易上手。它主要是用来获取抓取到的页面元素和其中的数据信息)

    安装: npm install cheerio --save
  4. puppeteer       (生成页面的屏幕截图和PDF。 爬取SPA(单页应用程序)并生成预渲染的内容(即“ SSR”(服务器端渲染))。  自动执行表单提交,UI测试,键盘输入等。  创建最新的自动化测试环境。使用最新的JavaScript和浏览器功能,直接在最新版                                   Chrome中运行测试。 捕获站点的时间线跟踪以帮助诊断性能问题。测试Chrome扩展程序。)

    安装: ①   npm config set puppeteer_skip_chromium_download = 1  

                     ②  npm i -S puppeteer

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值