Java爬虫技术批量下载美女图片不是事

先上福利图:
这里写图片描述

需求:利用爬虫将网上的图片下载到本地,然后超大图标预览。这里的文件命名是以时间年月日+标题命名。这里的网站就不告诉大家了,你们都比我懂。。。然后下载完后,把url写进txt中,下次爬取先从txt中判断是否存在,存在则不爬取该链接。

/*业务 start*/
            String s_url = s_[0];
            //判断url是否写入
            if(!checkTxtEsist(txtFileName,s_url)){
                String dirName = s_[2];
                String time = s_[4].replaceAll(timeReplace, "");
                File dirFile = new File(baseDir+time+dirName);
                if(!dirFile.exists()){
                    dirFile.mkdirs();
                    logger.info("创建文件夹-'{}'成功",time+dirName);
                }
                //统计页数
                String htmlSource2 = _cmsUtil.getHtmlResourceByUrl(s_url,encoding);
                htmlSource2 = htmlSource2.replaceAll("\\s", "");
                pat2 = pat2.replaceAll("\\s", "");
                Pattern pattern2 = Pattern.compile(pat2);
                Matcher matcher2 = pattern2.matcher(htmlSource2);
                String result2 = "";
                while(matcher2.find()){
                    result2 += matcher2.group(1);
                }
                int pageNum = _bigDataUtil.serachWord(result2, "<span>");
                if(pageNum == 0){
                    pageNum = 1;
                }

                //下载图片
                for(int i = 0 ; i < pageNum; i++){
                    String s_url3 = s_url +"/"+ (i+1);
                    String htmlSource3 = _cmsUtil.getHtmlResourceByUrl(s_url3,encoding);
                    htmlSource3 = htmlSource3.replaceAll("\\s", "");
                    pat3 = pat3.replaceAll("\\s", "");
                    Pattern pattern3 = Pattern.compile(pat3);
                    Matcher matcher3 = pattern3.matcher(htmlSource3);
                    while(matcher3.find()){
                        String picUrl = matcher3.group(2);
                        logger.info("正在爬取图片:{}",picUrl);
                        _cmsUtil.downImages(baseDir+time+dirName, picUrl);
                    }
                }


                //写入追加txt
                try {
                    _txtUtil.addTxtContent(txtFileName, s_url+",");
                } catch (Exception e) {
                    e.printStackTrace();
                }
            }
            /*业务 end*/
            //需要util方法可以联系QQ490647751

可以加Q490647751,回复‘开通VIP获取Java爬虫技术批量下载美女图片不是事’获取代码学习。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值