nodejs 循环中操作需要同步执行解决方案

最近用nodejs做了个针对某网站的小爬虫。干坏事得低调对吧,不能同时开太多的网络访问,结果各种回调/循环虐的心力交瘁。

经过了n次的百度\哥哥后终于拼出了自己要的功能。不敢独享分享出来以供大家参考。

废话不多说直接上代码

  var async = require("async");
var citysUrl=[];
var urlsArray=[];
 async.eachSeries(citysUrl, function (city, nextcity) {//城市循环
        channels.forEach(function (channel) {//组合url
            var options = GetOptions(channel);
            options.forEach(function (option) {
                var pageurl = GetUrl(city, channel, option);
                urlsArray.push(pageurl);
            });
        });
        console.log("开始抓取" + GetcityName(city) + "的产品信息");
        async.eachSeries(urlsArray, function (url, next) {
            async.waterfall([function(cb){
          Grab(url,cb);//Grab为异步抓取url操作function(url,cb){此处省略一万字//异步完成时调用cb(null,html);}
            },
            function(data,cb){
          console.log('分析html');
          cb(null,2)
            }],function(err,data){
                console.log('一次循环结束');
          next(); }); },
function (err,data) { console.log(GetcityName(city) + "产品抓取完成"); urlsArray = []; nextcity(); }); }, function () { console.log('所有城市产品抓取完成'); process.exit(); });

转载于:https://www.cnblogs.com/Leaner/p/6118694.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值