文章詳情頁
nginx ingress限速那些事淺析
瀏覽:80日期:2023-06-15 15:23:25
目錄
- 從業務場景出發
- 什么是限速?
- 為什么要限速?
- 在nginx ingress的yaml文件里,都有哪些配置?
從業務場景出發
在業務開發過程中,我們有個需求是:通過filebrowser提供的下載服務需要進行限速處理。如用戶在通過filebrowser進行文件下載的時候,需要限制每個用戶的下載速率。從這個需求擴展開來,也可以限定特定用戶的下載速率。
為了實現這個業務需求,結合我們當前的技術棧(k8s + nginx ingress),可以通過配置相應的nginx參數來實現。
什么是限速?
限速,顧名思義,是限制速率。
這里的速率可以是:
- 單個用戶在單位時間內訪問資源的頻率,
- 也可以是單個ip在單位時間內訪問資源的頻率,
- 還可以是單位時間內指定連接的傳輸速率。
通常,后者的業務場景存在于下載限速
為什么要限速?
限速的本質是保證公平。
在帶寬資源有限的情況下,盡可能地保障每個用戶能被合理的分配足夠的帶寬值。也可以在帶寬資源有限的情況下,通過限速的方式,服務更多的用戶。
另外,限速還可以大大緩解分布式拒絕服務攻擊(DDOS)帶來的影響。
在nginx ingress的yaml文件里,都有哪些配置?
Nginx ingress的限速配置基本可以在ingress的nginx.ingress.kubernetes.io注解里可以找到。
下面,對和限速相關的注解進行逐一解讀:
nginx.ingress.kubernetes.io/limit-connections
:單個IP地址可以同時并發連接的個數。如果超過連接并發數,則返回503錯誤。nginx.ingress.kubernetes.io/limit-rps
:限制單個IP每秒鐘的請求數(limit request per second)。超出限制,返回503錯誤。需要注意的是,并不是立刻超出該配置設定的值就馬上出現503錯誤,nginx允許在一定時間范圍內的突發請求數的存在(突發請求數 = limit-rps * limit-burst-multiplier)。那么什么時候會出現503呢?這就要從nginx的限流模型展開了。nginx的限流模型就是一個隊列(參考線程池的隊列模型模型),限流的max連接數=隊列處理的能力+隊列長度,即max-connections-per-second=limit-rps+limit-rps*limit-burst-multiplier。nginx.ingress.kubernetes.io/limit-rpm
:同limit-rps,不過limit-rpm的優先級高于limit-rps,也就是說當同時設置了limit-rpm和limit-rps,以limit-rpm為準。不過當limit-connections也設置了,那么limit-connections的優先級最高。nginx.ingress.kubernetes.io/limit-burst-multiplier
:突發請求大小的系數,主要用來定義連接的隊列長度,默認是5nginx.ingress.kubernetes.io/limit-rate-after
:超過多少流量后執行限速(limit-rate),單位是KBnginx.ingress.kubernetes.io/limit-rate
:單個連接每秒的限速值,單位是KB。nginx.ingress.kubernetes.io/limit-whitelist
:設定IP白名單,在該白名單內的IP不被限速,支持CIDR,多個IP可用逗號隔開。
注意
- 當limit-connections, limit-rps, limit-rpm同時設定時,優先級是limit-connections>limit-rpm>limit-rps
- limit-rate-after和limit-rate生效的前提是
nginx.ingress.kubernetes.io/proxy-buffering: "on"
- 以上提到的IP,需要區分來自SLB還是真實的用戶IP,獲取真實的用戶IP,可以參考這里
4. 針對業務需求的方案
搞清楚了這些知識點后,再回到我們的業務本身,可以簡單的在業務ingress的配置文件中添加以下配置即可:
apiVersion: networking.k8s.io/v1 kind: Ingress metadata: annotations: ... nginx.ingress.kubernetes.io/proxy-buffering: on nginx.ingress.kubernetes.io/limit-rate: 10 # 單位是KB name: xxx namespace: yyy spec: ingressClassName: nginx rules: ...
參考:
- Introduction - NGINX Ingress Controller
- NGINX Rate Limiting
以上就是nginx ingress限速那些事淺析的詳細內容,更多關于nginx ingress限速的資料請關注其它相關文章!
標簽:
Nginx
排行榜