電子發(fā)燒友App
今天跟大家聊一聊無論是在工作中常用還是在面試中常問的線程池，通過畫圖的方式來徹底弄懂線程池的工作原理，以及在實際項目中該如何自定義適合業(yè)務的線程池。
一、什么是線程池
線程池其實是一種池化的技術的實現，池化技術的核心思想其實就是實現資源的一個復用，避免資源的重復創(chuàng)建和銷毀帶來的性能開銷。在線程池中，線程池可以管理一堆線程，讓線程執(zhí)行完任務之后不會進行銷毀，而是繼續(xù)去處理其它線程已經提交的任務。
線程池的好處:
降低資源消耗。通過重復利用已創(chuàng)建的線程降低線程創(chuàng)建和銷毀造成的消耗。
提高響應速度。當任務到達時，任務可以不需要等到線程創(chuàng)建就能立即執(zhí)行。
提高線程的可管理性。線程是稀缺資源，如果無限制的創(chuàng)建，不僅會消耗系統(tǒng)資源，還會降低系統(tǒng) 的穩(wěn)定性，使用線程池可以進行統(tǒng)一的分配，調優(yōu)和監(jiān)控。
基于 Spring Boot + MyBatis Plus + Vue & Element 實現的后臺管理系統(tǒng) + 用戶小程序，支持 RBAC 動態(tài)權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能
項目地址：https://github.com/YunaiV/ruoyi-vue-pro
視頻教程：https://doc.iocoder.cn/video/
二、線程池的構造
Java中主要是通過構建ThreadPoolExecutor來創(chuàng)建線程池的，接下來我們看一下線程池是如何構造出來的。
線程池構造參數
corePoolSize：線程池中用來工作的核心的線程數量。
maximumPoolSize：最大線程數，線程池允許創(chuàng)建的最大線程數。
keepAliveTime：超出 corePoolSize 后創(chuàng)建的線程存活時間或者是所有線程最大存活時間，取決于配置。
unit：keepAliveTime 的時間單位。
workQueue：任務隊列，是一個阻塞隊列，當線程數已達到核心線程數，會將任務存儲在阻塞隊列中。
threadFactory ：線程池內部創(chuàng)建線程所用的工廠。
handler：拒絕策略；當隊列已滿并且線程數量達到最大線程數量時，會調用該方法處理該任務。
線程池的構造其實很簡單，就是傳入一堆參數，然后進行簡單的賦值操作。
基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的后臺管理系統(tǒng) + 用戶小程序，支持 RBAC 動態(tài)權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能
項目地址：https://github.com/YunaiV/yudao-cloud
視頻教程：https://doc.iocoder.cn/video/
三、線程池的運行原理
說完線程池的核心構造參數的意思，接下來就來畫圖講解這些參數在線程池中是如何工作的。
線程池剛創(chuàng)建出來是什么樣子呢，如下圖
不錯，剛創(chuàng)建出來的線程池中只有一個構造時傳入的阻塞隊列而已，此時里面并沒有的任何線程，但是如果你想要在執(zhí)行之前已經創(chuàng)建好核心線程數，可以調用prestartAllCoreThreads方法來實現，默認是沒有線程的。
當有線程通過execute方法提交了一個任務，會發(fā)生什么呢？
提交任務的時候，其實會去進行任務的處理
首先會去判斷當前線程池的線程數是否小于核心線程數，也就是線程池構造時傳入的參數corePoolSize。
如果小于，那么就直接通過ThreadFactory創(chuàng)建一個線程來執(zhí)行這個任務，如圖
當任務執(zhí)行完之后，線程不會退出，而是會去從阻塞隊列中獲取任務，如下圖
接下來如果又提交了一個任務，也會按照上述的步驟，去判斷是否小于核心線程數，如果小于，還是會創(chuàng)建線程來執(zhí)行任務，執(zhí)行完之后也會從阻塞隊列中獲取任務。這里有個細節(jié)，就是提交任務的時候，就算有線程池里的線程從阻塞隊列中獲取不到任務，如果線程池里的線程數還是小于核心線程數，那么依然會繼續(xù)創(chuàng)建線程，而不是復用已有的線程。
如果線程池里的線程數不再小于核心線程數呢？那么此時就會嘗試將任務放入阻塞隊列中，入隊成功之后，如圖
這樣在阻塞的線程就可以獲取到任務了。
但是，隨著任務越來越多，隊列已經滿了，任務放入失敗了，那怎么辦呢？
此時就會判斷當前線程池里的線程數是否小于最大線程數，也就是入參時的maximumPoolSize參數
如果小于最大線程數，那么也會創(chuàng)建非核心線程來執(zhí)行提交的任務，如圖
所以，從這里可以發(fā)現，就算隊列中有任務，新創(chuàng)建的線程還是優(yōu)先處理這個提交的任務，而不是從隊列中獲取已有的任務執(zhí)行，從這可以看出，先提交的任務不一定先執(zhí)行。
但是不幸的事發(fā)生了，線程數已經達到了最大線程數量，那么此時會怎么辦呢？
此時就會執(zhí)行拒絕策略，也就是構造線程池的時候，傳入的RejectedExecutionHandler對象，來處理這個任務。
RejectedExecutionHandler的實現JDK自帶的默認有4種
AbortPolicy：丟棄任務，拋出運行時異常
CallerRunsPolicy：由提交任務的線程來執(zhí)行任務
DiscardPolicy：丟棄這個任務，但是不拋異常
DiscardOldestPolicy：從隊列中剔除最先進入隊列的任務，然后再次提交任務
線程池創(chuàng)建的時候，如果不指定拒絕策略就默認是AbortPolicy策略。當然，你也可以自己實現RejectedExecutionHandler接口，比如將任務存在數據庫或者緩存中，這樣就數據庫或者緩存中獲取到被拒絕掉的任務了。
到這里，我們發(fā)現，線程池構造的幾個參數corePoolSize、maximumPoolSize、workQueue、threadFactory、handler我們都在上述的執(zhí)行過程中講到了，那么還差兩個參數keepAliveTime和unit(unit是keepAliveTime的時間單位)沒講到，所以keepAliveTime是如何起到作用的呢，這個問題留到后面分析。
說完整個執(zhí)行的流程，接下來看看execute方法代碼是如何實現的。
execute方法
workerCountOf(c)
workQueue.offer(command)：這行代碼就表示嘗試往阻塞隊列中添加任務
添加失敗之后就會再次調用addWorker方法嘗試添加非核心線程來執(zhí)行任務
如果還是添加非核心線程失敗了，那么就會調用reject(command)來拒絕這個任務。
最后再來另畫一張圖總結execute執(zhí)行流程
四、線程池中線程實現復用的原理
線程池的核心功能就是實現了線程的重復利用，那么線程池是如何實現線程的復用呢？
線程在線程池內部其實是被封裝成一個Worker對象
Worker繼承了AQS，也就是有一定鎖的特性。
創(chuàng)建線程來執(zhí)行任務的方法上面提到是通過addWorker方法創(chuàng)建的。在創(chuàng)建Worker對象的時候，會把線程和任務一起封裝到Worker內部，然后調用runWorker方法來讓線程執(zhí)行任務，接下來我們就來看一下runWorker方法。
啟動線程處理任務
從這張圖可以看出線程執(zhí)行完任務不會退出的原因，runWorker內部使用了while死循環(huán)，當第一個任務執(zhí)行完之后，會不斷地通過getTask方法獲取任務，只要能獲取到任務，就會調用run方法，繼續(xù)執(zhí)行任務，這就是線程能夠復用的主要原因。
但是如果從getTask獲取不到方法的時候，最后就會調用finally中的processWorkerExit方法，來將線程退出。
這里有個一個細節(jié)就是，因為Worker繼承了AQS，每次在執(zhí)行任務之前都會調用Worker的lock方法，執(zhí)行完任務之后，會調用unlock方法，這樣做的目的就可以通過Woker的加鎖狀態(tài)就能判斷出當前線程是否正在運行任務。如果想知道線程是否正在運行任務，只需要調用Woker的tryLock方法，根據是否加鎖成功就能判斷，加鎖成功說明當前線程沒有加鎖，也就沒有執(zhí)行任務了，在調用shutdown方法關閉線程池的時候，就用這種方式來判斷線程有沒有在執(zhí)行任務，如果沒有的話，來嘗試打斷沒有執(zhí)行任務的線程。
五、線程是如何獲取任務的以及如何實現超時的
上一節(jié)我們說到，線程在執(zhí)行完任務之后，會繼續(xù)從getTask方法中獲取任務，獲取不到就會退出。接下來我們就來看一看getTask方法的實現。
getTask方法
getTask方法，前面就是線程池的一些狀態(tài)的判斷，這里有一行代碼
?
?
?
?
這行代碼是判斷，當前過來獲取任務的線程是否可以超時退出。如果allowCoreThreadTimeOut設置為true或者線程池當前的線程數大于核心線程數，也就是corePoolSize，那么該獲取任務的線程就可以超時退出。
那是怎么做到超時退出呢，就是這行核心代碼
?
?
?
?
會根據是否允許超時來選擇調用阻塞隊列workQueue的poll方法或者take方法。如果允許超時，則會調用poll方法，傳入keepAliveTime，也就是構造線程池時傳入的空閑時間，這個方法的意思就是從隊列中阻塞keepAliveTime時間來獲取任務，獲取不到就會返回null；如果不允許超時，就會調用take方法，這個方法會一直阻塞獲取任務，直到從隊列中獲取到任務位置。從這里可以看到keepAliveTime是如何使用的了。
所以到這里應該就知道線程池中的線程為什么可以做到空閑一定時間就退出了吧。其實最主要的是利用了阻塞隊列的poll方法的實現，這個方法可以指定超時時間，一旦線程達到了keepAliveTime還沒有獲取到任務，那么就會返回null，上一小節(jié)提到，getTask方法返回null，線程就會退出。
這里也有一個細節(jié)，就是判斷當前獲取任務的線程是否可以超時退出的時候，如果將allowCoreThreadTimeOut設置為true，那么所有線程走到這個timed都是true，那么所有的線程，包括核心線程都可以做到超時退出。如果你的線程池需要將核心線程超時退出，那么可以通過allowCoreThreadTimeOut方法將allowCoreThreadTimeOut變量設置為true。
整個getTask方法以及線程超時退出的機制如圖所示
六、線程池的5種狀態(tài)
線程池內部有5個常量來代表線程池的五種狀態(tài)
RUNNING：線程池創(chuàng)建時就是這個狀態(tài)，能夠接收新任務，以及對已添加的任務進行處理。
SHUTDOWN：調用shutdown方法線程池就會轉換成SHUTDOWN狀態(tài)，此時線程池不再接收新任務，但能繼續(xù)處理已添加的任務到隊列中任務。
STOP：調用shutdownNow方法線程池就會轉換成STOP狀態(tài)，不接收新任務，也不能繼續(xù)處理已添加的任務到隊列中任務，并且會嘗試中斷正在處理的任務的線程。
TIDYING：SHUTDOWN 狀態(tài)下，任務數為 0， 其他所有任務已終止，線程池會變?yōu)?TIDYING 狀態(tài)。線程池在 SHUTDOWN 狀態(tài)，任務隊列為空且執(zhí)行中任務為空，線程池會變?yōu)?TIDYING 狀態(tài)。線程池在 STOP 狀態(tài)，線程池中執(zhí)行中任務為空時，線程池會變?yōu)?TIDYING 狀態(tài)。
TERMINATED：線程池徹底終止。線程池在 TIDYING 狀態(tài)執(zhí)行完 terminated() 方法就會轉變?yōu)?TERMINATED 狀態(tài)。
線程池狀態(tài)具體是存在ctl成員變量中，ctl中不僅存儲了線程池的狀態(tài)還存儲了當前線程池中線程數的大小
?
?
?
?
最后畫個圖來總結一下這5種狀態(tài)的流轉
其實，在線程池運行過程中，絕大多數操作執(zhí)行前都得判斷當前線程池處于哪種狀態(tài)，再來決定是否繼續(xù)執(zhí)行該操作。
七、線程池的關閉
線程池提供了shutdown和shutdownNow兩個方法來關閉線程池。
shutdown方法
就是將線程池的狀態(tài)修改為SHUTDOWN，然后嘗試打斷空閑的線程（如何判斷空閑，上面在說Worker繼承AQS的時候說過），也就是在阻塞等待任務的線程。
shutdownNow方法
就是將線程池的狀態(tài)修改為STOP，然后嘗試打斷所有的線程，從阻塞隊列中移除剩余的任務，這也是為什么shutdownNow不能執(zhí)行剩余任務的原因。
所以也可以看出shutdown方法和shutdownNow方法的主要區(qū)別就是，shutdown之后還能處理在隊列中的任務，shutdownNow直接就將任務從隊列中移除，線程池里的線程就不再處理了。
八、線程池的監(jiān)控
在項目中使用線程池的時候，一般需要對線程池進行監(jiān)控，方便出問題的時候進行查看。線程池本身提供了一些方法來獲取線程池的運行狀態(tài)。
getCompletedTaskCount：已經執(zhí)行完成的任務數量
getLargestPoolSize：線程池里曾經創(chuàng)建過的最大的線程數量。這個主要是用來判斷線程是否滿過。
getActiveCount：獲取正在執(zhí)行任務的線程數據
getPoolSize：獲取當前線程池中線程數量的大小
除了線程池提供的上述已經實現的方法，同時線程池也預留了很多擴展方法。比如在runWorker方法里面，在執(zhí)行任務之前會回調beforeExecute方法，執(zhí)行任務之后會回調afterExecute方法，而這些方法默認都是空實現，你可以自己繼承ThreadPoolExecutor來擴展重寫這些方法，來實現自己想要的功能。
九、Executors構建線程池以及問題分析
JDK內部提供了Executors這個工具類，來快速的創(chuàng)建線程池。
固定線程數量的線程池：核心線程數與最大線程數相等
單個線程數量的線程池
接近無限大線程數量的線程池
帶定時調度功能的線程池
雖然JDK提供了快速創(chuàng)建線程池的方法，但是其實不推薦使用Executors來創(chuàng)建線程池，因為從上面構造線程池可以看出，newFixedThreadPool線程池，由于使用了LinkedBlockingQueue，隊列的容量默認是無限大，實際使用中出現任務過多時會導致內存溢出；newCachedThreadPool線程池由于核心線程數無限大，當任務過多的時候，會導致創(chuàng)建大量的線程，可能機器負載過高，可能會導致服務宕機。
十、線程池的使用場景
在java程序中，其實經常需要用到多線程來處理一些業(yè)務，但是不建議單純使用繼承Thread或者實現Runnable接口的方式來創(chuàng)建線程，那樣就會導致頻繁創(chuàng)建及銷毀線程，同時創(chuàng)建過多的線程也可能引發(fā)資源耗盡的風險。所以在這種情況下，使用線程池是一種更合理的選擇，方便管理任務，實現了線程的重復利用。所以線程池一般適合那種需要異步或者多線程處理任務的場景。
十一、實際項目中如何合理的自定義線程池
通過上面分析提到，通過Executors這個工具類來創(chuàng)建的線程池其實都無法滿足實際的使用場景，那么在實際的項目中，到底該如何構造線程池呢，該如何合理的設置參數？
1）線程數
線程數的設置主要取決于業(yè)務是IO密集型還是CPU密集型。
CPU密集型指的是任務主要使用來進行大量的計算，沒有什么導致線程阻塞。一般這種場景的線程數設置為CPU核心數+1。
IO密集型：當執(zhí)行任務需要大量的io，比如磁盤io，網絡io，可能會存在大量的阻塞，所以在IO密集型任務中使用多線程可以大大地加速任務的處理。一般線程數設置為 2*CPU核心數
java中用來獲取CPU核心數的方法是：
?
?
?
?
2）線程工廠
一般建議自定義線程工廠，構建線程的時候設置線程的名稱，這樣就在查日志的時候就方便知道是哪個線程執(zhí)行的代碼。
3）有界隊列
一般需要設置有界隊列的大小，比如LinkedBlockingQueue在構造的時候就可以傳入參數，來限制隊列中任務數據的大小，這樣就不會因為無限往隊列中扔任務導致系統(tǒng)的oom。
編輯：黃飛
?
boolean?timed?=?allowCoreThreadTimeOut?||?wc?>?corePoolSize;
Runnable?r?=?timed??
????????????????????workQueue.poll(keepAliveTime,?TimeUnit.NANOSECONDS)?:
????????????????????workQueue.take();
private?final?AtomicInteger?ctl?=?new?AtomicInteger(ctlOf(RUNNING,?0));
Runtime.getRuntime().availableProcessors();
工商網監(jiān)
評論