学习分享
在当下这个信息共享的时代,很多资源都可以在网络上找到,只取决于你愿不愿意找或是找的方法对不对了
很多朋友不是没有资料,大多都是有几十上百个G,但是杂乱无章,不知道怎么看从哪看起,甚至是看后就忘
如果大家觉得自己在网上找的资料非常杂乱、不成体系的话,我也分享一套给大家,比较系统,我平常自己也会经常研读。
2021最新上万页的大厂面试真题
七大模块学习资料:如NDK模块开发、Android框架体系架构…
只有系统,有方向的学习,才能在段时间内迅速提高自己的技术。
这份体系学习笔记,适应人群:
第一,学习知识比较碎片化,没有合理的学习路线与进阶方向。
第二,开发几年,不知道如何进阶更进一步,比较迷茫。
第三,到了合适的年纪,后续不知道该如何发展,转型管理,还是加强技术研究。如果你有需要,我这里恰好有为什么,不来领取!说不定能改变你现在的状态呢!
由于文章内容比较多,篇幅不允许,部分未展示内容以截图方式展示 。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
这种抛出的其实就是堆内存不够用的时候,即前面提到的申请堆内存大小超过了Runtime.getRuntime().maxMemory()
1 . 第二个地方是创建线程时
对比错误信息,可以知道我们遇到的 OOM 崩溃就是这个时机,即创建线程的时候(Thread::CreateNativeThread)产生的。
2 . 还有其他的一些错误信息如“[XXXClassName] of length XXX would overflow”是系统限制String/Array 的长度所致,不在本文讨论之列。
那么,我们关心的就是Thread::CreateNativeThread 时抛出的 OOM 错误,创建线程为什么会导致 OOM 呢?
3.2推断
既然抛出来 OOM,一定是线程创建过程中触发了某些我们不知道的限制,既然不是 Art 虚拟机为我们设置的堆上限,那么可能是更底层的限制。Android 系统基于 linux,所以 linux 的限制对于 Android 同样适用,这些限制有:
1 ./proc/pid/limits 描述着 linux 系统对对应进程的限制,下面是一个样例:
用排除法筛选上面样例中的 limits:
- Max stack size,Max processes 的限制是整个系统的,不是针对某个进程的,排除;
- Max locked memory ,排除,后面会分析,线程创建过程中分配线程私有 stack 使用的 mmap 调用没有设置 MAP_LOCKED,所以这个限制与线程创建过程无关 ;
- Max pending signals,c 层信号个数阈值,无关,排除 ;
- Max msgqueue size,Android IPC 机制不支持消息队列,排除。
剩下的 limits 项中,Max open files 这一项限制最可疑Max open files 表示 每个进程最大打开文件的数目,进程 每打开一个文件就会产生一个文件描述符 fd(记录在 /proc/pid/fd 下面),这个限制表明 fd 的数目不能超过 Max open files 规定的数目。
后面分析线程创建过程中会发现过程中涉有及到文件描述符。
2 . /proc/sys/kernel 中描述的限制
这些限制中与线程相关的是 /proc/sys/kernel/threads-max,规定了每个进程创建线程数目的上限,所以线程创建导致 OOM 的原因也有可能与这个限制相关。
3.3验证
下面对上述的推断进行验证,分两步:本地验证和线上验收。
- 本地验证:在本地验证推断,试图复现与图 [2-4]OOM 一与图 [2-5]OOM 二所示错误消息一致的 OOM
- 线上验收:下发插件,验收线上用户 OOM 时确实是由于上面的推断的原因导致的。
本地验证
实验一: 触发大量网络连接(每个连接处于独立的线程中)并保持,每打开一个 socket 都会增加一个 fd(/proc/pid/fd 下多一项)
注:不只有这一种增加 fd 数的方式,也可以用其他方法,比如打开文件,创建 handlerthread 等等
- 实验预期:当进程 fd 数(可以通过 ls /proc/pid/fd | wc -l 获得)突破 /proc/pid/limits 中规定的 Max open files 时,产生 OOM;
- 实验结果:当 fd 数目到达 /proc/pid/limits 中规定的 Max open files 时,继续开线程确实会导致 OOM 的产生。
错误信息及堆栈如下:
可以看出,此 OOM 发生时的错误信息确与线上发现的 OOM 一的“Could not allocate JNI Env” 吻合,因此线上上报的 OOM 一 可能 就是由 FD 数超限导致的,不过最终确定需要到线上进行验证 (下一小节)。此外从 ART 虚拟机的 Log 中看出,还有一个关键的信息 “ art: ashmem_create_region failed for ‘indirect ref table’: Too many open files”,后面会用于问题定位及解释。
实验二:创建大量的空线程(不做任何事情,直接 sleep)
- 实验预期:
- 当线程数(可以在/proc/pid/status 中的threads项实时查看)超过/proc/sys/kernel/threads-max 中规定的上限时产生 OOM 崩溃。
- 实验结果:
- 在 Android7.0 及以上的华为手机(EmotionUI_5.0 及以上)的手机产生 OOM,这些手机的线程数限制都很小 (应该是华为 rom 特意修改的 limits),每个进程只允许最大同时开 500 个线程,因此很容易复现了。
OOM 时错误信息如下:
可以看出 错误信息与我们线上遇到的 OOM 二吻合:“pthread_create (1040KB stack) failed: Out of memory” 另外 ART 虚拟机还有一个关键 Log:“pthread_create failed: clone failed: Out of memory”,后面会用于问题定位及解释。
1 . 其他 Rom 的手机线程数的上限都比较大,不容易复现上述问题。但是,对于 32 位的系统,当进程的逻辑地址空间不够的时候也会产生 OOM,每个线程通常需要 mapp 1MB 左右的 stack 空间(stack 大小可以自行设置),32 为系统进程逻辑地址 4GB,用户空间少于 3GB。逻辑地址空间不够(已用逻辑空间地址可以查看 /proc/pid/status 中的 VmPeak/VmSize 记录),此时创建线程产生的 OOM 具有如下信息:
线上验收及问题解决
本地尝试复现的 OOM 错误信息中图 [3-5] 与线上 OOM 一情况比较吻合,图 [3-6] 与线上 OOM 二的情况比较吻合,但线上的 OOM 一真的时 FD 数目超限,OOM 二真的是由于华为手机线程数超限的原因导致的吗?最终确定还需要取线上设备的数据进行验证。
验证方法:
下发插件到线上用户,当 Thread.UncaughtExceptionHandler 捕获到OutOfMemoryError 时记录 /proc/pid 目录下的如下信息:
1. /proc/pid/fd 目录下文件数 (fd 数)
2. /proc/pid/status 中 threads 项(当前线程数目)
3. OOM 的日志信息(出了堆栈信息还包含其他的一些 warning 信息
线上 OOM 一验证
发生 OOM 一的线上设备中采集到的信息:
1. /proc/pid/fd 目录下文件数与 /proc/pid/limits 中的 Max open files 数目持平,证明 FD 数目已经满了;
2. 崩溃时日志信息与图 [3-5] 基本一致;
由此,证明 线上的 OOM 一确实是由于 FD 数目过多导致的 OOM,推断验证成功。
OOM 一的定位与解决:
最终原因是 App 中使用的长连接库再某些时候会有瞬时发出大量 http 请求的 bug(导致 FD 数激增),已修复。
线上 OOM 二验证 集中在华为系统的 OOM 二崩溃时收集到的信息样例如下,(收集的样例中包含的 devicemodel 有 VKY-AL00,TRT-AL00A,BLN-AL20,BLN-AL10,DLI-AL10,TRT-TL10,WAS-AL00 等):
1. /proc/pid/status 中 threads 记录全部到达上限:Threads: 500;
2. 崩溃时日志信息与图 [3-6] 基本一致;
推断验证成功,即 线程数受限导致创建线程时 clone failed 导致了线上的 OOM 二。
OOM 二的定位与解决:
关于 App 业务代码中的问题还在定位修复中。
3.4解释
下面从代码分析本文描述的 OOM 是怎么发生的,首先线程创建的简易版流程图如下所示:
上图中,线程创建大概有两个关键的步骤:
- 第一列中的 创建线程私有的结构体 JNIENV(JNI 执行环境,用于 C 层调用 Java 层代码)
- 第二列中的 调用 posix C 库的函数 pthread_create 进行线程创建工作
下面对流程图中关键节点(图中有标号的)进行说明:
1. 图中节点①,/art/runtime/thread.cc 中的函数Thread:CreateNativeThread部分节选代码如下:
可知:
- JNIENV 创建不成功时产生 OOM 的错误信息为 “Could not allocate JNI Env”,与文中 OOM 一一致
pthread_create失败时抛出 OOM 的错误信息为"pthread_create (%s stack) failed: %s".其中详细的错误信息由 pthread_create 的返回值(错误码)给出。错误码与错误描述的对应关系可以参见 bionic/libc/include/sys/_errdefs.h中的定义。文中 OOM 二的具体错误信息为"Out of memory",就说明 pthread_create 的返回值为 12。
2. 图中节点②和③是创建 JNIENV 过程的关键节点,节点②/art/runtime/mem_map.cc 中 函数 MemMap:MapAnonymous 的作用是为 JNIENV 结构体中Indirect_Reference_table(C 层用于存储 JNI 局部 / 全局变量)申请内存,申请内存的方法是节点③所示的函数ashmem_create_region(创建一块 ashmen 匿名共享内存, 并返回一个文件描述符)。节点②代码节选如下:
我们线上的OOM 一的错误信息"ashmem_create_region failed for ‘indirect ref table’: Too many open files",与此处打印的信息吻合。"Too many open files"的错误描述说明此处的 errno(系统全局错误标识)为 24(见图 [3-10] 系统错误定义 _errdefs.h)。由此看出我们线上的 OOM 一是由于文件描述符数目已满,ashmem_create_region 无法返回新的 FD 而导致的。
3. 图中节点④和⑤是调用 C 库创建线程时的环节,创建线程首先 调用 __allocate_thread 函数申请线程私有的栈内存 (stack) 等,然后 调用 clone 方法进行线程创建.申请 stack 采用的时 mmap 的方式,节点⑤代码节选如下:
打印的错误信息与图 [3-7] 中进程逻辑地址占满导致的 OOM 错误信息吻合,图 [3-7] 中错误信息" Try again"说明系统全局错误标识 errno 为 11(见图 [3-10] 系统错误定义_errdefs.h). pthread_create 过程中,节点4相关代码如下:
此处输出的错误日志"pthread_create failed: clone failed: %s"与我们线上发现的 OOM 二吻合,图 [3-6] 中的错误描述" Out of memory"说明系统全局错误标识 errno 为 12(见图 [3-10] 系统错误定义 _errdefs.h)。 由此线上的 OOM 二就是由于线程数的限制而在节点 5 clone 失败导致 OOM。
四、结论及监控
4.1导致OOM发生的原因
综上,可以导致 OOM 的原因有以下几种:
尾声
如果你想成为一个优秀的 Android 开发人员,请集中精力,对基础和重要的事情做深度研究。
对于很多初中级Android工程师而言,想要提升技能,往往是自己摸索成长,不成体系的学习效果低效漫长且无助。 整理的这些架构技术希望对Android开发的朋友们有所参考以及少走弯路,本文的重点是你有没有收获与成长,其余的都不重要,希望读者们能谨记这一点。
这里,笔者分享一份从架构哲学的层面来剖析的视频及资料给大家梳理了多年的架构经验,筹备近6个月最新录制的,相信这份视频能给你带来不一样的启发、收获。
Android进阶学习资料库
一共十个专题,包括了Android进阶所有学习资料,Android进阶视频,Flutter,java基础,kotlin,NDK模块,计算机网络,数据结构与算法,微信小程序,面试题解析,framework源码!
大厂面试真题
PS:之前因为秋招收集的二十套一二线互联网公司Android面试真题 (含BAT、小米、华为、美团、滴滴)和我自己整理Android复习笔记(包含Android基础知识点、Android扩展知识点、Android源码解析、设计模式汇总、Gradle知识点、常见算法题汇总。)
《2019-2021字节跳动Android面试历年真题解析》
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
1749)]
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!