看到一篇关于最佳线程数相关的文章。内容比較经典,不敢私藏,分享一下!
最佳线程数:
性能压測的情况下,起初随着用户数的添加,QPS会上升。当到了一定的阀值之后。用户数量添加QPS并不会添加,或者添加不明显。同一时候请求的响应时间却大幅添加。
这个阀值我们觉得是最佳线程数。
为什么要找最佳线程数
1.过多的线程仅仅会造成,很多其它的内存开销,很多其它的CPU开销。可是对提升QPS确毫无帮助
2.找到最佳线程数后通过简单的设置。能够让web系统更加稳定,得到最高,最稳定的QPS输出
最佳线程数的获取:
1、通过用户慢慢递增来进行性能压測。观察QPS。响应时间
2、依据公式计算:server端最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量
3、单用户压測。查看CPU的消耗,然后直接乘以百分比。再进行压測。一般这个值的附近应该就是最佳线程数量。
影响最佳线程数的主要因素:
1、IO
2、CPU
依据公式:server端最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量
一般来说是IO和CPU。
IO开销较多的应用其CPU线程等待时间会比較长。所以线程数量能够开的多一些,相反则线程数量要少一些,事实上有两种极端。纯IO的应用。比方proxy,则线程数量能够开到很大(实在太大了则须要考虑线程切换的开销),这样的应用基本上后端(比方这个proxy是代理搜索的)的QPS能有多少,proxy就有多少。
还有一种是耗CPU的计算,这样的情况一般来讲仅仅能开到CPU个数的线程数量。可是并非说这样的应用的QPS就不高,往往这样的应用的QPS能够非常高。
QPS和线程数的关系
1、在最佳线程数量之前,QPS和线程是互相递增的关系,线程数量到了最佳线程之后,QPS持平,不在上升,甚至略有下降,同一时候对应时间持续上升。
2、同一个系统而言,支持的线程数越多(最佳线程数越多而不是配置的线程数越多),QPS越高
QPS和响应时间的关系
1、对于一般的web系统,响应时间一般有CPU运行时间+IO等待时间组成
2、CPU的运行时间降低。对QPS有实质的提升,IO时间的降低,对QPS提升不明显。
假设要想明显提升QPS。优化系统的时候要着重优化CPU消耗大户。
最佳线程数和jvm堆内存得关系:
以上都是根据性能瓶颈在CPU的情况,对于java应用另一个因素是FULL GC。我们要保证在最佳线程数量下。不会发生频繁FULL GC
依据公式::(小GC时间间隔/rt)*(并发线程数量 * thm) <=young 计算得到的并发线程数量假设<最佳线程数量 则可能导致FULL GC较频繁,实际情况看来这样的情况在web系统上很少。
只是能够模拟出来。
所以我们在设置jboss线程的时候。能够利用内存公式计算出来的线程数量来设置。通过压測和计算得到最佳线程数,然后设置线程数。
设置线程数量:
压測最佳线程数<真实设置的线程数量<内存极限线程数
比方,通过压測得到某系统的最佳线程数量是10。然后通过内存计算的线程数量是20,则,设置jboss的线程数量为15是可行的。假设直接设置了10。因为系统本身会受到一些依赖系统的变化而产生一些变化,比方系统依赖一些IO的响应时间会突然延长。因为线程数量还是10,事实上这个时候最佳线程数量已经变成了13了,因为我们设置死了10,其结果就是导致qps下降。可是假设超过20,则又会引起FULL gc很频繁,反过来影响QPS的下降。
jboss的线程数设置:
对于jboss而言,设置线程数量要看使用了那种线程连接,如http、ajp等
http和ajp的设置是全然一样的,很easy:
以ajp为例。找到server.xml或者tomcat-server.xml:
默认线程数量是200个
这里将默认的线程数量改成了20,当然对应的其它最小空暇线程数和最大空暇线程数也做一下调整:
<Connector port="8009" address="${jboss.bind.address}" connectionTimeout="15000" protocol="AJP/1.3" maxThreads="20" minSpareThreads="20" maxSpareThreads="20" maxPostSize="512000" acceptCount="300" bufferSize="16384" emptySessionPath="false" enableLookups="false" redirectPort="8443" useBodyEncodingForURI="true"/>