java爬虫初体验

##java 爬虫初体验
编译一个可以爬取网站首页html文件的小爬虫程序
并将爬取的文件保存到自定义路径中。

public class WebSpidTest {

    public static void main(String[] args) throws IOException {
        //获取URL
        URL url=new URL("https://music.163.com/");
        //下载资源
        //InputStream is =url.openStream();
        
        HttpURLConnection   conn=(HttpURLConnection) url.openConnection();

        conn.setRequestMethod("GET");
        conn.setRequestProperty("User-Agent","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36");

        BufferedReader  br =new BufferedReader( new InputStreamReader(conn.getInputStream(),"UTF-8"));
        BufferedWriter bw=new BufferedWriter(new OutputStreamWriter(new FileOutputStream(new File("D:\\JavaWorld\\爬虫文件夹\\网易云首页"+new SimpleDateFormat("yyyy-MM-dd").format(new Date())+".html"))));

        String msg=null;
        while(null!=(msg=br.readLine())) {
            bw.write(msg);
            bw.newLine();

        }

        br.close();
        bw.close();

        //分析
        //处理

    }

}
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值