linux高並行是什麼意思

在linux中，高並行是系統執行過程中遇到的一種「短時間內遇到大量操作請求」的情況，主要發生在web系統集中大量存取收到大量請求；該情況的發生會導致系統在這段時間內執行大量操作，例如對資源的請求，資料庫的操作等。

程式設計師必備介面測試偵錯工具：

本教學操作環境：linux7.3系統、Dell G3電腦。

一高並行概念

1.1 高並行概念

高並行（High Concurrency）是網際網路分散式系統架構設計中必須考慮的因素之一，它通常是指，通過設計保證系統能夠同時並行處理很多請求。

高並行（High Concurrency）是一種系統執行過程中遇到的一種「短時間內遇到大量操作請求」的情況，主要發生在web系統集中大量存取收到大量請求（例如：12306的搶票情況；天貓雙十一活動）。該情況的發生會導致系統在這段時間內執行大量操作，例如對資源的請求，資料庫的操作等。

1.2 高並行相關指標

響應時間(Response Time)
- 系統對請求做出響應的時間。例如系統處理一個HTTP請求需要200ms，這個200ms就是系統的響應時間
吞吐量(Throughput)
- 單位時間內處理的請求數量
每秒查詢率QPS(Query Per Second)
- 每秒響應請求數。在網際網路領域，這個指標和吞吐量區分的沒有這麼明顯
並行使用者數(User Concurrence)
- 同時承載正常使用系統功能的使用者數量。例如一個即時通訊系統，同時線上量一定程度上代表了系統的並行使用者數

1.3 高並行優化方面

單程序最大開啟檔案數限制
核心TCP引數方面
IO事件分配機制

二提升系統的並行能力

2.1 垂直擴充套件

提升單機處理能力
- 增強單機硬體效能，例如：增加CPU核數如32核，升級更好的網路卡如萬兆，升級更好的硬碟如SSD，擴充硬碟容量如2T，擴充系統記憶體如128G
- 提升單機架構效能，例如：使用Cache來減少IO次數，使用非同步來增加單服務吞吐量，使用無鎖資料結構來減少響應時間

2.2 水平擴充套件

增加伺服器數量，就能線性擴充系統效能

2.3 常見網際網路分層架構

（1）使用者端層：典型呼叫方是瀏覽器browser或者手機應用APP

（2）反向代理層：系統入口，反向代理

（3）站點應用層：實現核心應用邏輯，返回html或者json

（4）服務層：如果實現了服務化，就有這一層

（5）資料-快取層：快取加速存取儲存

（6）資料-資料庫層：資料庫固化資料儲存

2.4 水平擴充套件架構

反向代理層的水平擴充套件
當nginx成為瓶頸的時候，只要增加伺服器數量，新增nginx服務的部署，增加一個外網ip，就能擴充套件反向代理層的效能，做到理論上的無限高並行
通過「DNS輪詢」實現的：dns-server對於一個域名設定了多個解析ip，每次DNS解析請求來存取dns-server，會輪詢返回這些ip
站點層的水平擴充套件
- 通過「nginx」實現的。通過修改nginx.conf，可以設定多個web後端
- 當web後端成為瓶頸的時候，只要增加伺服器數量，新增web服務的部署，在nginx設定中設定上新的web後端，就能擴充套件站點層的效能，做到理論上的無限高並行
服務層的水平擴充套件
- 通過「服務連線池」實現的
- 站點層通過RPC-client呼叫下游的服務層RPC-server時，RPC-client中的連線池會建立與下游服務多個連線，當服務成為瓶頸的時候，只要增加伺服器數量，新增服務部署，在RPC-client處建立新的下游服務連線，就能擴充套件服務層效能，做到理論上的無限高並行
資料層的水平擴充套件
- 資料層（快取，資料庫）涉及資料的水平擴充套件，將原本儲存在一臺伺服器上的資料（快取，資料庫）水平拆分到不同伺服器上去，以達到擴充系統效能的目的。
- 儲存一定範圍的資料
  - user0庫，儲存uid範圍1-1kw
  - user1庫，儲存uid範圍1kw-2kw
- 按照雜湊水平拆分
  - user0庫，儲存偶數uid資料
  - user1庫，儲存奇數uid資料

三單臺Linux伺服器提升並行

3.1 iptables相關

關閉iptables防火牆，阻止kernel載入iptables模組
單程序最大開啟檔案數限制（預設單個程序最大開啟1024個檔案）
ulimit –n 65535 登入後複製

修改Linux系統對使用者的開啟檔案數的軟限制和硬限制

vim /etc/security/limits.conf
* soft nofile 65535   #'*'表示修改所有使用者的限制
* hard nofile 65535
登入後複製

#使用者完成系統登入後讀取/etc/security/limits.conf檔案
vim /etc/pam.d/login
sessionrequired /lib/security/pam_limits.so
登入後複製

3.2 核心TCP引數

TIME_WAIT狀態

TCP連線斷開後，會以TIME_WAIT狀態保留一定的時間，然後才會釋放埠。當並行請求過多的時候，就會產生大量的TIME_WAIT狀態的連線，無法及時斷開的話，會佔用大量的埠資源和伺服器資源

#檢視TIME_WAIT狀態連線
netstat -n | grep tcp | grep TIME_WAIT |wc -l
登入後複製

# vim /etc/sysctl.conf
net.ipv4.tcp_syncookies= 1 #表示開啟SYNCookies。當出現SYN等待佇列溢位時，啟用cookies來處理，可防範少量SYN攻擊，預設為0，表示關閉；
net.ipv4.tcp_tw_reuse= 1 #表示開啟重用。允許將TIME-WAITsockets重新用於新的TCP連線，預設為0，表示關閉；
net.ipv4.tcp_tw_recycle= 1 #表示開啟TCP連線中TIME-WAITsockets的快速回收，預設為0，表示關閉；
net.ipv4.tcp_fin_timeout= 30  #修改系統預設的TIMEOUT 時間。
登入後複製