在实时服务器上，Spark任务频繁异常结束，显示无法创建新的本地线程。通过调整系统配置文件，将线程数设置为unlimited以解决问题。此外，针对Spark日志文件过大导致HDFS空间不足的问题，采用压缩和滚动日志配置，如启用压缩、设置最大文件大小和滚动策略，成功减小日志占用空间。
1. Spark 线程问题
实时服务器部署着多个Spark和Flink实时任务,Spark任务运行一段时间后发现几个任务异常结束，将失败的任务重启。运行几分钟，发现本来运行正常的任务也异常结束，重启多次依旧如此。开始怀疑是集群资源不足造成了，查看CM中 Yarn的资源池发现资源充足，接着查看运行失败任务的日志，发现共同异常：unable to create new native thread
出现问题找根本原因，于是就问了度娘，解决方法如下：
1、查看系统线程数 ulimit -u
这是修改后的，修改前线程数是4096
2修改系统配置文件
配置文件路径及配置文件可能不一样，修改 /etc/security/limits.d 目录下 20-nproc.conf 配置文件，将部署任务机器用户名对应的线程数修改为 unlimited，默认线程配置：40
最低0.47元/天 解锁文章
3640
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
