网络爬虫下载网页

类的基本功能:属性和行为组成
行为:下载网页,url为要下载的地址信息,比如为百度:http://www.baidu.com
 public void download(String urlAddress){
 定义要下载的网页地址
 URL url=new URL(urlAddress);
 处理异常的方法有两种,一种是将异常的信息向上反馈,第二种是使用try/catch语法来处理异常。
 当前类的处理方法采用的是第一种
 接下来是打开网络连接,这里我们使用第二种处理异常的方式
 try{
URLConnection con=url.openConnection();
 
得到百度服务器的输出(对我们来说是输入)
InputStream is=con.getInputStream();
我们要将读取的信息写入文件(这时是输出)
IO读写文件有两种方式第一是Output(这一种无法定义编码) 第二种是Writer(可以指定输出编码)
指定一个输出的文件名,我们采用时间戳的方式yyyyMMddHHmssSSS(SSS为毫秒)
SimpleDateFormat时间格式化
SimpleDateFormat sdf=new SimpleDateFormat("yyyyMMddHHmmssSSS");
String date=sdf.format(new Date);
Date使用java Util那个
date为当前文件名,为了保证输出的完整性,我们一般使用全路径信息
File.separator,路径分隔符,可以自动识别操作系统
String path=“c”+File.separator+“windows”;
OutputStream os=new FileOutputStream(path+date+".html");
这里的path为保存文件的路径信息(Windows用“c:\\”这样的)
接下来就可以将内容输出了,需要循环处理
int ch=is.read();
while(ch!=-1){
os.write(ch);
ch=is.read();
}
关闭流
os.close();
is.close();



 }catch(Exception e){
 
 }
 }
 测试
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值