启动flink项目报错java.lang.OutOfMemoryError: unable to create new native thread

本文主要是介绍启动flink项目报错java.lang.OutOfMemoryError: unable to create new native thread，对大家解决编程问题具有一定的参考价值，需要的程序猿们随着小编来一起学习吧！

一、问题：

　　启动flink项目失败，日志异常：java.lang.OutOfMemoryError: unable to create new native thread

二、解决办法：

1、 关于这个问题，一开始猜想是因消息队列（activemq）引起的，因为处理数据较多，开启的线程数较多导致，因此对MQ搭建了集群。

　　MQ集群搭建方法：http://blog.csdn.net/jiangxuchen/article/details/8004561

　　但是搭建集群后发现，并没有什么卵用，问题依旧。

　　继续......

2、 接下来怀疑是系统里开的线程数太多，在优化后，问题仍然存在。

      继续......

3、 内存调优，减小xss值、JVM内存，仍然解决不了。

      继续......

4、 几番周测，在整理思路后，决定首要任务就是如何重现该问题，于是编写测试程序，测试出操作系统最大能够创建的线程数：

 1     import java.util.concurrent.CountDownLatch;  
 2       
 3     public class TestNativeOutOfMemoryError {  
 4       
 5         public static void main(String[] args) {  
 6       
 7             for (int i = 0;; i++) {  
 8                 System.out.println("i = " + i);  
 9                 new Thread(new HoldThread()).start();  
10             }  
11         }  
12       
13     }  
14       
15     class HoldThread extends Thread {  
16         CountDownLatch cdl = new CountDownLatch(1);  
17       
18         public HoldThread() {  
19             this.setDaemon(true);  
20         }  
21       
22         public void run() {  
23             try {  
24                 cdl.await();  
25             } catch (InterruptedException e) {  
26             }  
27         }  
28     }  

　  运行后：

　　i = 982
　　Exception in thread "main" java.lang.OutOfMemoryError: unable to create new native thread
   　　 at java.lang.Thread.start0(Native Method)
    　　at java.lang.Thread.start(Thread.java:597)
    　　at TestNativeOutOfMemoryError.main(TestNativeOutOfMemoryError.java:20)

　　问题重现，在反复运行几次后发现，生产系统最大只能创建980多个线程，生产系统操作系统64位centeros,jdk1.7,64G内存。而我本地PC电脑都可以创建2500左右。

　　感觉原因快找到了，切换到运行账户使用命令:

　　$ su bigdata

　　$ ulimit -u

　　$ 1024

　　生产上所有程序都是在bigdata账户下运行，于是查看该账户下所有的线程数总和为950，也即是说，随时都可能会超过1024，导致内存溢出。查看看进程当前运行的线程数命令为：pstree -p 5516 | wc -l

　　注：5516是TaskManagerRunner 的PID

　　原因找到，操作系统对运行程序的账户有最大线程数限制。

　　$ vim /etc/security/limits.d/90-nproc.conf
　　

　　打开后发现除了root，其他账户都限制在1024个。

　　于是增加一条：bigdata     soft    nproc     20000

　　为什么设置为20000，因为测试后发现，在运行到35000左右，系统就报内存溢出了，操作系统所有命令都不能使用，因此将程序最大线程数限制在20000。

　　修改后再没出现内存溢出错误。问题解决。

三、思考

　　1、经过总结，在遇到问题后，不能盲目的到处修改，首先要做的就是重现问题，顺藤摸瓜，逐步的找出根本原因。

　　2、关于tomcat内存调优，个人认为只有在中大型系统才需要调优或者服务器硬件条件一般的情况下才需要调优，才能有所效果。

转载：https://www.cnblogs.com/myshare/p/5177135.html

这篇关于启动flink项目报错java.lang.OutOfMemoryError: unable to create new native thread的文章就介绍到这儿，希望我们推荐的文章对大家有所帮助，也希望大家多多支持为之网！