單核CPU為何也支持多線程

由于現在大多計算機都是多核CPU，多線程往往會比單線程更快，更能夠提高并發，但提高并發并不意味著啟動更多的線程來執行。更多的線程意味著線程創建銷毀開銷加大、上下文非常頻繁，你的程序反而不能支持更高的TPS。

時間片

多任務系統往往需要同時執行多道作業。作業數往往大于機器的CPU數，然而一顆CPU同時只能執行一項任務，如何讓用戶感覺這些任務正在同時進行呢? 操作系統的設計者巧妙地利用了時間片輪轉的方式

時間片是CPU分配給各個任務（線程）的時間！

“

思考：單核CPU為何也支持多線程呢？

”

線程上下文是指某一時間點 CPU 寄存器和程序計數器的內容，CPU通過時間片分配算法來循環執行任務（線程），因為時間片非常短，所以CPU通過不停地切換線程執行。

換言之，單CPU這么頻繁，多核CPU一定程度上可以減少上下文切換。

基于 Spring Boot + MyBatis Plus + Vue & Element 實現的后臺管理系統 + 用戶小程序，支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

項目地址：https://gitee.com/zhijiantianya/ruoyi-vue-pro

視頻教程：https://doc.iocoder.cn/video/

超線程

現代CPU除了處理器核心之外還包括寄存器、L1L2緩存這些存儲設備、浮點運算單元、整數運算單元等一些輔助運算設備以及內部總線等。一個多核的CPU也就是一個CPU上有多個處理器核心，就意味著程序的不同線程需要經常在CPU之間的外部總線上通信，同時還要處理不同CPU之間不同緩存導致數據不一致的問題。

超線程這個概念是Intel提出的，簡單來說是在一個CPU上真正的并發兩個線程，由于CPU都是分時的（如果兩個線程A和B，A正在使用處理器核心，B正在使用緩存或者其他設備，那AB兩個線程就可以并發執行，但是如果AB都在訪問同一個設備，那就只能等前一個線程執行完后一個線程才能執行）。實現這種并發的原理是在CPU里加了一個協調輔助核心，根據Intel提供的數據，這樣一個設備會使得設備面積增大5%，但是性能提高15%~30%。

基于 Spring Cloud Alibaba + Gateway + Nacos + RocketMQ + Vue & Element 實現的后臺管理系統 + 用戶小程序，支持 RBAC 動態權限、多租戶、數據權限、工作流、三方登錄、支付、短信、商城等功能

項目地址：https://gitee.com/zhijiantianya/yudao-cloud

視頻教程：https://doc.iocoder.cn/video/

上下文切換

線程切換，同一進程中的兩個線程之間的切換
進程切換，兩個進程之間的切換
模式切換，在給定線程中，用戶模式和內核模式的切換
地址空間切換，將虛擬內存切換到物理內存

CPU切換前把當前任務的狀態保存下來，以便下次切換回這個任務時可以再次加載這個任務的狀態，然后加載下一任務的狀態并執行。任務的狀態保存及再加載, 這段過程就叫做上下文切換。

每個線程都有一個程序計數器（記錄要執行的下一條指令），一組寄存器（保存當前線程的工作變量），堆棧（記錄執行歷史，其中每一幀保存了一個已經調用但未返回的過程）。

寄存器是 CPU 內部的數量較少但是速度很快的內存（與之對應的是 CPU 外部相對較慢的 RAM 主內存）。寄存器通過對常用值（通常是運算的中間值）的快速訪問來提高計算機程序運行的速度。

程序計數器是一個專用的寄存器，用于表明指令序列中 CPU 正在執行的位置，存的值為正在執行的指令的位置或者下一個將要被執行的指令的位置。

掛起當前任務（線程/進程），將這個任務在 CPU 中的狀態（上下文）存儲于內存中的某處
恢復一個任務（線程/進程），在內存中檢索下一個任務的上下文并將其在 CPU 的寄存器中恢復
跳轉到程序計數器所指向的位置（即跳轉到任務被中斷時的代碼行），以恢復該進程在程序中]

線程上下文切換會有什么問題呢？

上下文切換會導致額外的開銷，常常表現為高并發執行時速度會慢串行，因此減少上下文切換次數便可以提高多線程程序的運行效率。

直接消耗：指的是CPU寄存器需要保存和加載, 系統調度器的代碼需要執行, TLB實例需要重新加載, CPU 的pipeline需要刷掉
間接消耗：指的是多核的cache之間得共享數據, 間接消耗對于程序的影響要看線程工作區操作數據的大小

當前運行線程主動放棄CPU，JVM暫時放棄CPU操作（基于時間片輪轉調度的JVM操作系統不會讓線程永久放棄CPU，或者說放棄本次時間片的執行權），例如調用yield()方法。
當前運行線程因為某些原因進入阻塞狀態，例如阻塞在I/O上
當前運行線程結束，即運行完run()方法里面的任務

引起線程上下文切換的因素

當前執行任務（線程）的時間片用完之后，系統CPU正常調度下一個任務
中斷處理，在中斷處理中，其他程序”打斷”了當前正在運行的程序。當CPU接收到中斷請求時，會在正在運行的程序和發起中斷請求的程序之間進行一次上下文切換。中斷分為硬件中斷和軟件中斷，軟件中斷包括因為IO阻塞、未搶到資源或者用戶代碼等原因，線程被掛起。
用戶態切換，對于一些操作系統，當進行用戶態切換時也會進行一次上下文切換，雖然這不是必須的。
多個任務搶占鎖資源，在多任務處理中，CPU會在不同程序之間來回切換，每個程序都有相應的處理時間片，CPU在兩個時間片的間隔中進行上下文切換