node 爬虫解决中文网页乱码

参考网页:http://www.jb51.net/article/97738.htm

let async=require('async');
let request=require('request');
let cheerio=require('cheerio');
let charset = require('superagent-charset'); //解决乱码问题:
let superagent = require('superagent'); //发起请求
charset(superagent);

        superagent
            .get(link)
            .charset('gb2312') //取决于网页的编码方式
            .end(function(err, res){
                //console.log(res.text);
                let $=cheerio.load(res.text);
                let download_link=$("td[style='WORD-WRAP: break-word']").find("a").attr("href");
                let filename;
                try {
                    filename=download_link;
                } catch (e) {
                    //console.log('download_link err ',download_link);
                    return fn();
                }
                // let ftp_config=download_link.split("/")[2];
                // console.log('filename=',filename);
                // let ftp_client = new ftp();
                // let connectionProperties = {
                //     host: ftp_config.split("@")[1],
                //     user:ftp_config.split(":")[0],
                //     password:ftp_config.split(":")[0]
                // };
                // console.log(connectionProperties);
                // let list_path="/"+filename;
                // ftp_client.connect(connectionProperties);
                // ftp_client.on("ready",function () {
                //     ftp_client.list(function (err,list) {
                //         console.log(list);
                //     })
                // });
                fn(err,filename);
            });
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值