这是ThreadPoolExecutor类前面的一段注释,讲了一些自定义线程池的策略,同时也包含了一些线程池的原理。
1.核心线程数与最大线程数
-
线程池会根据
corePoolSize
和maximumPoolSize
自动调整线程数 -
提交任务时,如果当前线程数小于核心线程数则新建线程。
-
大于core,小于max则只有当任务队列为满的时候会创建线程。
-
core和max相等的时候就创建了一个线程数目固定的线程池(fixed-size)
-
max设置为
Integer.MAX_VALUE
则说明是一个无界的线程池。 -
可以使用
setCorePoolSize
和setMaximumPoolSize
动态调整线程池
2.按需创建线程池
默认情况下核心线程是在任务提交时才创建的。可以使用prestartCoreThread
和prestartAllCoreThread
来提前创建线程池。
(如果你配置了一个非空任务队列的话)
3.创建新线程
-
可以实现
ThreadFactory
接口(实现类要线程安全)来创建线程,默认使用Executors.defaultThreadFactory
,默认实现创建的线程属于同一个ThreadGroup
,而且有相同的优先级,线程为非守护线程。 -
你可以自定义线程池来改变线程名字,线程组,优先级,是否为守护线程等等。
4.Keep-alive times
-
如果当期线程池的数目大于core,空闲的线程或者超过
keepAliveTime
时间的线程会被终止。(getKeepAliveTime
),这样资源如果不能充分利用可以回收一部分,降低消耗。 -
如果线程池稍后负载变大则会重新创建线程。该参数同样可以动态调整
setKeepAliveTime
,如果设置为Long.MAX_VAlUE
则不会终止空闲线程, -
这种自动调整的策略只针对线程数目大于core的那部分线程。也可以使用
allowCoreThreadTime(boolean)
来将该动态调整的策略应用于core线程。(前提是keepAliveTime
非零)
5.任务队列
-
可以使用任意的
BlockingQueue
来保存和提交任务。 -
当前线程数少于
corePoolSize
,线程池一般会选择创建线程而不是将任务放在任务队列中。 -
当前线程数大于
corePoolSize
,线程池一般会选择将任务放在任务队列中。 -
如果一个任务不能入队(任务队列满)则创建线程。如果线程数目超过了
maximumPoolSize
,则任务会被拒绝。
6.任务等待(排队)策略
6.1 直接提交任务给工作线程
-
SynchronousQueue
会直接将任务提交给工作线程。不会在队列内部保留任务(队列容量为0)。 -
如果没有线程能马上运行任务则该任务不能提交到任务队列中(相当于任务队列为满),这时候会创建线程。
-
这种策略避免了线程池停滞(lockups)。(当处理一些有内部依赖的请求时,可能线程池中的大部分线程都在等待一个线程释放锁,这时候就没有线程能处理新的任务了)
-
这种策略需要搭配一个无界的
maximumPoolSize
(Long.MAX_VALUE)
来避免拒绝新提交的任务。
但是同时又默认的允许在线程池负载较大的时候无限制的创建线程。
6.2 无界队列,一直缓存任务
-
使用无容量限制的
LinkedBlockingQueue
,这样当所有的core线程都在忙碌的情况下,新提交的任务会被添加到队列中等待 -
这种情况下,线程池中的线程数目不会大于
corePoolSize
(maximumPoolSize
这时就不生效了) -
这种策略适合在任务之间没有依赖的时候,任务在执行的过程中不会影响其他任务执行。
-
这种方式可以平滑过多的请求,同时默认了任务队列中可能无限制的缓存任务。
6.3 有界队列
-
使用容量有限的
ArrayBlockingQueue
来避免资源无限制的申请。如果设置了无界的maximumPoolSize
(Long.MAX_VALUE)
。但是这样会对线程池调优产生影响。 -
队列容量和最大线程数之间会互相影响。
-
使用容量较大的队列和较小的
maximumPoolSize
会导致低CPU利用率,带来额外的上下文切换。这样就人为的造成了低吞吐量。 -
如果任务经常阻塞(I/O密集型任务)。a system may be able to schedule time for more threads than you otherwise allow.
-
使用较小的队列一般要求更大的线程池大小,这样会提高CPU利用率,但是会带来额外的调度。可能会降低吞吐量。
-
-
Queue sizes and maximum pool sizes may be traded off for each other:
-
Using large queues and small pools minimizes CPU usage, OS resources, and context-switching overhead, but can lead to artificially low throughput.
-
If tasks frequently block (for example if they are I/O bound), a system may be able to schedule time for more threads than you otherwise allow.
-
Use of small queues generally requires larger pool sizes, which keeps CPUs busier but may encounter unacceptable scheduling overhead, which also decreases throughput.
-
6.4 任务拒绝策略
使用execute(Runnable)
提交的任务会被拒绝,如果线程池已经关闭,或者线程池使用了有限的线程数目和工作队列容量(而且队列满了)。
任何一种情况该方法都会调用配置的RejectedExecutionHandler
中的rejectedExecution(Runnable,ThreadPoolExecutor)
方法。
默认提供了4种方式
-
ThreadPoolExecutor.AbortPolicy
会抛出RejectedExecutionException
-
ThreadPoolExecutor.CallerRunsPolicy
会让调用execute()
方法的线程去运行任务。 -
ThreadPoolExecutor.DiscardPolicy
直接抛弃任务 -
ThreadPoolExecutor.DiscardOldestPolicy
如果线程池没有关闭,在工作队列头部的任务会被抛弃。
6.5 回调方法
-
beforeExecute(Thread,Runnable)
,afterExecute(Runnable,Throwable)
在每个任务执行前,后都会被调用。可以用来维护执行环境。比如说重新初始化ThreadLocal
,统计信息,或者增加日志 -
terminated
方法可以被重载来添加一些需要在线程池关闭时的操作。 -
如果回调方法抛出异常,线程池内部的工作线程会终止。
6.6 队列维护
-
getQueue()
方法能拿到工作队列,来增加一些监控和Debug的功能。除了以上的用途,及其不推荐使用该方法来拿到工作队列去做别的事情。 -
当大量的缓存任务被取消时
remove(Runnable)
和purge
可以用来帮助
清理队列
6.7 Finalization
在程序中没有引用的线程池(垃圾),线程池中的线程不会自动终结。如果你需要保证用户忘记调用shutdown
方法时,线程池中的线程也会被自动回收,
你需要设置恰当的keepAliveTime
使用一个下界为0的core数目而且设置allowCoreThreadTimeOut(boolean)
网友评论