使用OkHttp 下载文件无进度回调 踩坑

一、踩坑速记

1. 未添加header指定服务器采用何种压缩方式导致下载进度异常

描述:使用OkHttp3执行文件下载(服务端有nginx反向代理服务器进行压缩),获取回调中文件总大小为0或负值,导致显示下载进度异常。

1.1 前端解决方案

添加请求头addHeader("Accept-Encoding", "application/octet-stream")或者addHeader("Accept-Encoding", "*") 即可;

addHeader("Accept-Encoding", "application/octet-stream");
addHeader("Accept-Encoding", "*");

1.2 后端解决方案

服务端需要下载的文件更改为.bin后缀(nginx未对bin文件进行压缩,此时返回的数据格式默认是二进制流),当然这样的前提是前端知道要下载的文件是个什么文件,下载完成要自行命名修改后缀为正常后缀,如.apk文件。

2. okhttp请求设置了log拦截器导致下载异常

描述:如果在初始化OkHttpClient 时设置了log拦截器,而且呢设置了HttpLoggingInterceptor.Level = Level.BODY时,会发现监听不到下载的进度了。(文件明明已经在开始下载,但没有进度回调,或者文件下载很长一段时间后才有进度回调)。

2.1 去掉HttpLoggingInterceptor拦截

注释掉HttpLoggingInterceptor的log拦截即可。

//.addInterceptor(mInterceptor);

2.2 设置log级别比BODY级别更低

mInterceptor.setLevel(HttpLoggingInterceptor.Level.BASIC);
mInterceptor.setLevel(HttpLoggingInterceptor.Level.HEADERS);
mInterceptor.setLevel(HttpLoggingInterceptor.Level.NONE);

3. 不继续踩坑的下载库

https://github.com/lingochamp/okdownload/

二、踩坑记录

1. 坑一 Header详细解析

1.1 OkHttp下载文件-Header坑的产生

很久很久以前,具体多久已经记不太清楚了,只记得那是第一次把项目中的请求换成OkHttp,发版之后突然接到客服反馈说用户升级app一直失败,然后抓紧调试以下,发现真的是执行app更新时,发现一直不显示文件大小和进度,已下载文件大小一直是负的,最终下载完成的文件执行安装还会是失败报错;一下子就慌了。

1.2 问题分析

由于过去的时间过于“久远”,分析问题的具体步骤就不可能详细描述了,只记得是用fiddler监控下载过程;尝试下载别的文件如百度/应用宝上的apk文件;分析返回的文件内容和格式。网络管理员、运维、经理、技术总监都参与到了问题的分析讨论和解决方案的制订。

这里说下最后敲定的问题原因:

  1. 由于前端升级后不久,nginx也针对网络优化做了一次升级,那么nginx会默认对文件进行压缩以节省网络宽带,并减少网络延迟;而且呢我们的okhttp下载请求没有设置Accept-Encoding指定返回的数据格式,所以此时nginx默认gzip格式压缩返回的Content-Type是text/plain;charset=utf-8即当成文本了;
  2. 那么现在okhttp下载器接到的是text文本,相当于把本是apk的文件流转成了text文本传输,这边把文本当文件流再写入到了一个文件里,最后这个文件还能安装吗?哈哈,不能!

1.3 解决方案

上面分析了是nginx把apk文件流当成text文件进行了压缩传输,那么前端请求时主动告诉后台我要的是个什么文件,这样可以吗?

答案是肯定的:通过设置addHeader("Accept-Encoding", "application/octet-stream"),可以指定返回的数据格式是二进制流文件,此时再去执行下载,已经可以正常执行了。后面又尝试了设置支持所有类型("Accept-Encoding", "*"),也是可以的。

本地的代码可以该,那么已经上线的版本怎么处理呢?最后是经理去分析了nginx反向代理的一些配置和流程,发现可以在某个目录下的bin文件不被压缩,于是尝试了将apk文件后缀修改成bin文件,升级到服务器上,将旧版本升级的路径指向了新配置的bin文件,完美的解决了旧版本的更新问题。

2. 坑二HttpLoggingInterceptor详细解析

 

2.1 OkHttp下载文件-log坑的产生

前几天,网约车的部门经理找我说他手机上司机端升级一直下不下来,因为很久没有提过下载的问题,也没有动下载的代码,没有怀疑是代码问题,所以怀疑是网的问题(ps:公司的公网的网速一直不怎么样)。然后我去拿我手机上模拟器跑一下,发现也好久没见进度往前走,啧啧~想到之前的坑,不会老坑重踩了把。。。赶紧拉代码看了一遍,还好,没有改动记录,header也都设置了,所以不是之前的问题。那么这次又是什么问题呢?

2.2 问题分析

前面简单说了肯定不是header的问题了,于是开始从别的方面找原因。

2.2.1 服务端配置导致文件获取不到文件大小,所以进度无法获取

由于上次跟服务端的nginx反向代理有关,所以这次也优先想到了先排查后端的问题。先咨询了负责运维的同事,表示最近没有升级,但是呢我对比了两个文件在浏览器(360和chrome)的下载过程,如下图所示,BUS365.apk和BUS365.bin是同样大的都是25.1M,但是bin文件可以看到正常的进度和文件总大小,apk文件下载进度异常而且无法获取文件总大小。(从百度手机助手链接下载apk文件同下图中bin文件表现一致,可以显示文件总大小和下载进度)

https://www.bus365.com/public/images/BUS365.bin

https://www.bus365.com/public/phoneClient/BUS365.apk

image.png

image.png

image.png

 

2.2.2 不是nginx的原因,是主站服务器告诉nginx要返回的什么数据格式,nginx只是代理转发

网络运维的同事也非常辛苦地配合着自己研究了一上午的时间,最后给我的结果是:“nginx是中间做了转发代理,并不决定返回的数据格式,还得看主站服务,咱们一起去找主站看看把。”(下图中的ContentType是返回结果中的文件格式)。

https://www.bus365.com/public/phoneClient/BUS365.apk

image.png

 

https://www.bus365.com/public/images/BUS365.bin

image.png

 

2.2.3 主站只负责业务处理,具体的返回规则是play框架决定的

这次负责主站服务的同事倒是很快给出了结论:“主站只负责业务处理,具体的哪个目录下的文件压缩,支持哪个格式的文件(apk,bin等)不压缩,这些返回规则是play框架决定的,得找技术总监决定修改play框架!”好吧,我们越来越接近业务的“核心”了。。。。。。但是,我只是想,在下载安装包时,能够获取到文件大小和进度的显示啊,我感觉已经越走越远了,有木有?!!!

2.2.4 突发奇想,不上传主站,上传到专门的文件服务器

万分感谢辛苦的运维同事和主站后台服务同事的配合,回去边写邮件想着怎么去说动技术总监去改play框架来满足咱们的需求,边跟经理交流下这个问题,经理提出来可以先把安装包传文件服务器试一下,这简单啊,又不费啥事儿,马上传上去,得到文件服务器上的下载路径。https://mraw.bus365.cn/files/group1/M00/00/F8/wKgDEl-X5nGAQMxkAe7MXjwMMyU347.apk,嘿,在浏览器下载真的有进度和总大小了。

image.png

2.2.5 以为找到了钥匙,却打不开“紧闭的大门”

满心欢喜以为,安装包上传文件服务器就可以圆满解决问题了,跟运维沟通后得知:1,文件服务器没有做cdn缓存,所以下载速度并不快;2,文件服务器每次上传都是新地址,旧的不会自动删除,不建议放大文件,更何况需要大批量的下载的升级类文件;3,更重要的时,当我把文件服务器的下载链接放到司机端中执行下载时,依然很久没有进度回调。。。

2.2.6 柳暗花明又一村,找到真正的原因

搜okhttp下载进度关键词时,看到了这篇浏览量极小的文章:okHttp3 下载进度监听 踩坑https://blog.csdn.net/boxing012/article/details/105316216,文中提到了

如果在初始化OkHttpClient 时设置了log拦截器,不管拦截器的级别是什么,监听到的进度都不正常(文件已经在开始下载,但没有进度回调,文件下载一段时间后才有进度)

当然这段话还是有一定问题的,后面分析会说明,不过有一点时对的,就是okHttpClient设置了log拦截器后,会导致进度回调失败。回头看司机端的初始化代码中,确实发现有设置HttpLoggingInterceptor,当注释掉.addInterceptor(logging)后,下载更新的进度就正常了。

HttpLoggingInterceptor logging = new HttpLoggingInterceptor();
        logging.setLevel(HttpLoggingInterceptor.Level.BODY);
        OkHttpClient okHttpClient = new OkHttpClient.Builder()
                .connectTimeout(GlobalUrlConfig.HTTP_TIMEOUT, TimeUnit.MILLISECONDS)
                .readTimeout(GlobalUrlConfig.HTTP_TIMEOUT, TimeUnit.MILLISECONDS)
                .addInterceptor(logging)
                .hostnameVerifier(new HostnameVerifier() {
                    @Override
                    public boolean verify(String hostname, SSLSession session) {
                        return true;
                    }
                })
                .build();
        OkHttpUtils.initClient(okHttpClient);

2.2.7 问题原因找到了,分析下HttpLoggingInterceptor为什么会导致下载进度失败呢?

既然问题出现在HttpLoggingInterceptor身上,肯定需要分析HttpLoggingInterceptor的源码,其它地方就先不用看了,直接看intercept();

@Override
  public Response intercept(Chain chain) throws IOException {
    Level level = this.level;

    Request request = chain.request();
    if (level == Level.NONE) {
      return chain.proceed(request);
    }

    boolean logBody = level == Level.BODY;
    boolean logHeaders = logBody || level == Level.HEADERS;

    RequestBody requestBody = request.body();
    boolean hasRequestBody = requestBody != null;

    Connection connection = chain.connection();
    String requestStartMessage = "--> "
            + request.method()
            + ' ' + request.url()
            + (connection != null ? " " + connection.protocol() : "");
    if (!logHeaders && hasRequestBody) {
      requestStartMessage += " (" + requestBody.contentLength() + "-byte body)";
    }
    logger.log(requestStartMessage);

    if (logHeaders) {
      if (hasRequestBody) {
        // Request body headers are only present when installed as a network interceptor. Force
        // them to be included (when available) so there values are known.
        if (requestBody.contentType() != null) {
          logger.log("Content-Type: " + requestBody.contentType());
        }
        if (requestBody.contentLength() != -1) {
          logger.log("Content-Length: " + requestBody.contentLength());
        }
      }

      Headers headers = request.headers();
      for (int i = 0, count = headers.size(); i < count; i++) {
        String name = headers.name(i);
        // Skip headers from the request body as they are explicitly logged above.
        if (!"Content-Type".equalsIgnoreCase(name) && !"Content-Length".equalsIgnoreCase(name)) {
          logHeader(headers, i);
        }
      }

      if (!logBody || !hasRequestBody) {
        logger.log("--> END " + request.method());
      } else if (bodyHasUnknownEncoding(request.headers())) {
        logger.log("--> END " + request.method() + " (encoded body omitted)");
      } else {
        Buffer buffer = new Buffer();
        requestBody.writeTo(buffer);

        Charset charset = UTF8;
        MediaType contentType = requestBody.contentType();
        if (contentType != null) {
          charset = contentType.charset(UTF8);
        }

        logger.log("");
        if (isPlaintext(buffer)) {
          logger.log(buffer.readString(charset));
          logger.log("--> END " + request.method()
                  + " (" + requestBody.contentLength() + "-byte body)");
        } else {
          logger.log("--> END " + request.method() + " (binary "
                  + requestBody.contentLength() + "-byte body omitted)");
        }
      }
    }

    long startNs = System.nanoTime();
    Response response;
    try {
      response = chain.proceed(request);
    } catch (Exception e) {
      logger.log("<-- HTTP FAILED: " + e);
      throw e;
    }
    long tookMs = TimeUnit.NANOSECONDS.toMillis(System.nanoTime() - startNs);

    ResponseBody responseBody = response.body();
    long contentLength = responseBody.contentLength();
    String bodySize = contentLength != -1 ? contentLength + "-byte" : "unknown-length";
    logger.log("<-- "
            + response.code()
            + (response.message().isEmpty() ? "" : ' ' + response.message())
            + ' ' + response.request().url()
            + " (" + tookMs + "ms" + (!logHeaders ? ", " + bodySize + " body" : "") + ')');

    if (logHeaders) {
      Headers headers = response.headers();
      for (int i = 0, count = headers.size(); i < count; i++) {
        logHeader(headers, i);
      }

      if (!logBody || !HttpHeaders.hasBody(response)) {
        logger.log("<-- END HTTP");
      } else if (bodyHasUnknownEncoding(response.headers())) {
        logger.log("<-- END HTTP (encoded body omitted)");
      } else {
        BufferedSource source = responseBody.source();
        source.request(Long.MAX_VALUE); // Buffer the entire body.
        Buffer buffer = source.buffer();

        Long gzippedLength = null;
        if ("gzip".equalsIgnoreCase(headers.get("Content-Encoding"))) {
          gzippedLength = buffer.size();
          GzipSource gzippedResponseBody = null;
          try {
            gzippedResponseBody = new GzipSource(buffer.clone());
            buffer = new Buffer();
            buffer.writeAll(gzippedResponseBody);
          } finally {
            if (gzippedResponseBody != null) {
              gzippedResponseBody.close();
            }
          }
        }

        Charset charset = UTF8;
        MediaType contentType = responseBody.contentType();
        if (contentType != null) {
          charset = contentType.charset(UTF8);
        }

        if (!isPlaintext(buffer)) {
          logger.log("");
          logger.log("<-- END HTTP (binary " + buffer.size() + "-byte body omitted)");
          return response;
        }

        if (contentLength != 0) {
          logger.log("");
          logger.log(buffer.clone().readString(charset));
        }

        if (gzippedLength != null) {
          logger.log("<-- END HTTP (" + buffer.size() + "-byte, "
                  + gzippedLength + "-gzipped-byte body)");
        } else {
          logger.log("<-- END HTTP (" + buffer.size() + "-byte body)");
        }
      }
    }

    return response;
  }

我们注意到

requestBody.writeTo(buffer);

source.request(Long.MAX_VALUE); // Buffer the entire body.

这两行,一个是操作请求的body,一个是操作结果的body,后一行操作结果的地方还给了一个最大值。这会有什么问题呢,如果你在这里打断点会发现,下载文件的请求,走到这里竟然“不执行了”,其实是卡在这里了(至于为什么没有卡死UI,因为是开启了线程执行的)。这里需要将内容全部请求出来,然后方便后面的复制buffer,然而在你下载东西的时候,内容是很多的(几M,几十M,甚至几百M),那么这里的卡住的时长和文件大小成正比,如果文件太大,内存不够,那么系统会不停地GC去获取更多内存,甚至可能会发生OOM。这就是为什么一直没有进度回调的原因了,因为:这里日志还没打印完成,而日志打印完成的前提是文件下载完成,所以直到文件完成下载,你才有可能接收到进度的回调(同理:打印requestbody会影响上传进度回调)。

image.png

image.png

再往上看logBody是何许人也?logBody是判断打印的level是否是Level.BODY,所以,当你设置级别为header、basic、none时,代码执行到上面的条件ogger.log("<-- END HTTP");就不会执行body的复制和打印了,进而不会产生下载进度条不变的问题了。

image.png

 

2.3 解决方案

上面分析了是HttpLoggingInterceptor拦截了body去执行打印去了,影响了进度的回调,所以解决方案也很简单:1,取消log拦截器(addInterceptor);2,设置更低级别的拦截(HttpLoggingInterceptor.Level.BASIC)。两个方案都可以很好的解决这个问题。

HttpLoggingInterceptor logging = new HttpLoggingInterceptor();
        logging.setLevel(HttpLoggingInterceptor.Level.BASIC);
        OkHttpClient okHttpClient = new OkHttpClient.Builder()
                .connectTimeout(GlobalUrlConfig.HTTP_TIMEOUT, TimeUnit.MILLISECONDS)
                .readTimeout(GlobalUrlConfig.HTTP_TIMEOUT, TimeUnit.MILLISECONDS)
                //.addInterceptor(logging)
                .hostnameVerifier(new HostnameVerifier() {
                    @Override
                    public boolean verify(String hostname, SSLSession session) {
                        return true;
                    }
                })
                .build();
        OkHttpUtils.initClient(okHttpClient);

但是某个人就会问了:HttpLoggingInterceptor这么方便的拦截器,我用来打印后台返回的结果多方便啊,这body都不让拦截了,不行我就想要用!呵呵,没遭遇过社会的毒打💪💪💪。

那么能不能满足某个人的需求呢,当然可以:就是定义两个OkHttpClient实例对象,一个专门用来下载文件,这个不加拦截器,或者HttpLoggingInterceptor的level < Body就好了;另外一个专门处理网络请求的添加BODY级别的拦截器去处理服务器返回的数据,这样就没有问题了。

三、脱坑推荐

下载文件作为APP中最常用的功能之一,在github上已经有非常成熟的开源框架,不喜欢踩坑的可以尝试站在“巨人”的肩膀上去鸟瞰整个世界。这里推荐一个稳定、高效、灵活、简单易用的Android 文件下载引擎。单一个下载功能的安卓库,星星数都能破万,已经无需再去介绍它的魅力,直接移步github去试用即可。

1代地址:https://github.com/lingochamp/FileDownloader

2代地址:https://github.com/lingochamp/okdownload/

特点:

  • 简单易用
  • 单任务多线程/多连接/分块下载(并支持通过ConnectionCountAdapter定制)
  • 高并发
  • 灵活
  • 可选择性支持: 独立/非独立进程
  • 自动断点续传

 

参考

https://blog.csdn.net/sese12138/article/details/106019355

https://blog.csdn.net/boxing012/article/details/105316216

  • 5
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 6
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值