LOGO OA教程 ERP教程 模切知識(shí)交流 PMS教程 CRM教程 開發(fā)文檔 其他文檔  
 
網(wǎng)站管理員

Nginx限流模塊limit_req_zone、limit_req_conn

admin
2025年8月19日 15:49 本文熱度 173

導(dǎo)讀

本文詳細(xì)解讀了Nginx的漏桶算法和令牌桶算法在限制請(qǐng)求速率和并發(fā)連接上的原理及配置,包括limit_req_zone和http_limit_conn_module的實(shí)際應(yīng)用,以及如何自定義返回值和處理突發(fā)流量。通過實(shí)例演示,展示了如何靈活調(diào)整以應(yīng)對(duì)不同場(chǎng)景的需求。

?根據(jù)nginx官網(wǎng)提供的說法,有兩種算法,一種是漏桶算法,一種是令牌桶算法。

limit_req_zone 用來限制單位時(shí)間內(nèi)的請(qǐng)求數(shù)目,以及速度限制。

limit_req_conn 用來限制同一時(shí)間連接數(shù),即并發(fā)限制。

一、令牌桶算法

令牌桶:

  • 令牌以固定速率產(chǎn)生,并緩存到令牌桶中;

  • 令牌桶放滿時(shí),多余的令牌被丟棄;

  • 請(qǐng)求要消耗等比例的令牌才能被處理;

  • 令牌不夠時(shí),請(qǐng)求被緩存或者被拒絕。

二、漏桶算法

漏桶算法

  • 水(請(qǐng)求)從上方倒入水桶,從水桶下方流出(被處理);

  • 來不及流出的水存在水桶中(緩沖),以固定速率流出;

  • 水桶滿后水溢出(丟棄);

  • 這個(gè)算法的核心是:緩存請(qǐng)求、勻速處理、多余的請(qǐng)求直接丟棄。

相比漏桶算法,令牌桶算法不同之處在于它不但有一只“桶”,還有個(gè)隊(duì)列,這個(gè)桶是用來存放令牌的,隊(duì)列才是用來存放請(qǐng)求的。

從兩者的作用上賴看,漏桶算法比較直接,限制實(shí)時(shí)限制數(shù)據(jù)的傳輸速率與頻率,對(duì)于突發(fā)流量不管那么多就是規(guī)定死的,而令牌桶能夠在限制的數(shù)據(jù)的平均傳輸速率的同時(shí)允許某種程度高并發(fā)的突發(fā)傳輸。

一、limit_req_zone 參數(shù)配置

放在http{} 內(nèi)

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=1r/s;
  • 第一個(gè)參數(shù):$binary_remote_addr 表示通過remote_addr這個(gè)標(biāo)識(shí)來做限制,“binary_”的目的是縮寫內(nèi)存占用量,是限制同一客戶端ip地址。

  • 第二個(gè)參數(shù):zone=mylimit:10m表示生成一個(gè)大小為10M,名字為one的內(nèi)存區(qū)域,用來存儲(chǔ)訪問的頻次信息。

  • 第三個(gè)參數(shù):rate=1r/s表示允許相同標(biāo)識(shí)的客戶端的訪問頻次,這里限制的是每秒1次,還可以有比如30r/m的。

limit_req zone=mylimit burst=1 nodelay;

放在server{}內(nèi)

  • 第一個(gè)參數(shù):zone=one 設(shè)置使用哪個(gè)配置區(qū)域來做限制,與上面limit_req_zone 里的name對(duì)應(yīng)。

  • 第二個(gè)參數(shù):burst=5,重點(diǎn)說明一下這個(gè)配置,burst爆發(fā)的意思,這個(gè)配置的意思是設(shè)置一個(gè)大小為5的緩沖區(qū)當(dāng)有大量請(qǐng)求(爆發(fā))過來時(shí),超過了訪問頻次限制的請(qǐng)求可以先放到這個(gè)緩沖區(qū)內(nèi)。

  • 第三個(gè)參數(shù):nodelay,如果設(shè)置,超過訪問頻次而且緩沖區(qū)也滿了的時(shí)候就會(huì)直接返回503,如果沒有設(shè)置,則所有請(qǐng)求會(huì)等待排隊(duì)。

我這里存放在php中,對(duì)于靜態(tài)資源全部都會(huì)走cdn所以沒必要,只有動(dòng)態(tài)資源,才會(huì)走這里,所以,我這里直接在php模塊里面設(shè)置

設(shè)置搜索引擎例外

limit_req_zone? $anti_spider? zone=one:10m? ?rate=10r/s;limit_req zone=one burst=100 nodelay;if ($http_user_agent ~* "googlebot|bingbot|Feedfetcher-Google") {

? ? set $anti_spider $http_user_agent;

}

二、http_limit_conn_module 參數(shù)配置

這個(gè)模塊用來限制單個(gè)IP的請(qǐng)求數(shù)。并非所有的連接都被計(jì)數(shù)。只有在服務(wù)器處理了請(qǐng)求并且已經(jīng)讀取了整個(gè)請(qǐng)求頭時(shí),連接才被計(jì)數(shù)。

Syntax: limit_conn zone number;

Default:? ? —

Context:? ? http, server, location

limit_conn_zone $binary_remote_addr zone=addr:10m;

server {
? ? location /download/ {

? ? ? ? limit_conn addr 1;

? ? }

一次只允許每個(gè)IP地址一個(gè)連接。

limit_conn_zone $binary_remote_addr zone=perip:10m;

limit_conn_zone $server_name zone=perserver:10m;

server {

? ? ...

? ? limit_conn perip 10;

? ? limit_conn perserver 100;

}

可以配置多個(gè)limit_conn指令。例如,以上配置將限制每個(gè)客戶端IP連接到服務(wù)器的數(shù)量,同時(shí)限制連接到虛擬服務(wù)器的總數(shù)。

Syntax: limit_conn_zone key zone=name:size;

Default:? ? —

Context:? ? http

limit_conn_zone $binary_remote_addr zone=addr:10m;

這里,客戶端IP地址作為關(guān)鍵。請(qǐng)注意,不是$ remote_addr,而是使用$ binary_remote_addr變量。 $ remote_addr變量的大小可以從7到15個(gè)字節(jié)不等。存儲(chǔ)的狀態(tài)在32位平臺(tái)上占用32或64字節(jié)的內(nèi)存,在64位平臺(tái)上總是占用64字節(jié)。對(duì)于IPv4地址,$ binary_remote_addr變量的大小始終為4個(gè)字節(jié),對(duì)于IPv6地址則為16個(gè)字節(jié)。存儲(chǔ)狀態(tài)在32位平臺(tái)上始終占用32或64個(gè)字節(jié),在64位平臺(tái)上占用64個(gè)字節(jié)。一個(gè)兆字節(jié)的區(qū)域可以保持大約32000個(gè)32字節(jié)的狀態(tài)或大約16000個(gè)64字節(jié)的狀態(tài)。如果區(qū)域存儲(chǔ)耗盡,服務(wù)器會(huì)將錯(cuò)誤返回給所有其他請(qǐng)求。

Syntax: limit_conn_log_level info | notice | warn | error;

Default:? ? limit_conn_log_level error;

Context:? ? http, server, location

當(dāng)服務(wù)器限制連接數(shù)時(shí),設(shè)置所需的日志記錄級(jí)別。

Syntax: limit_conn_status code;

Default: limit_conn_status 503;

Context:? ? http, server, location

設(shè)置拒絕請(qǐng)求的返回值。

三、實(shí)戰(zhàn)

實(shí)例一 限制訪問速率

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;server {?

? ? location / {?

? ? ? ? limit_req zone=mylimit;

? ? }

}

上述規(guī)則限制了每個(gè)IP訪問的速度為2r/s,并將該規(guī)則作用于根目錄。如果單個(gè)IP在非常短的時(shí)間內(nèi)并發(fā)發(fā)送多個(gè)請(qǐng)求,結(jié)果會(huì)怎樣呢???

監(jiān)測(cè)服務(wù)器nginx日志

tail -f host.access.log?

?

壓測(cè)前后的對(duì)比,這里是壓測(cè)工具是ab壓測(cè)工具,具體用法看這篇文章
https://www.321dz.com/1491.html??

使用單個(gè)IP在10ms內(nèi)發(fā)并發(fā)送了6個(gè)請(qǐng)求,只有1個(gè)成功,剩下的5個(gè)都被拒絕。我們?cè)O(shè)置的速度是2r/s,為什么只有1個(gè)成功呢,是不是Nginx限制錯(cuò)了?當(dāng)然不是,是因?yàn)镹ginx的限流統(tǒng)計(jì)是基于毫秒的,我們?cè)O(shè)置的速度是2r/s,轉(zhuǎn)換一下就是500ms內(nèi)單個(gè)IP只允許通過1個(gè)請(qǐng)求,從501ms開始才允許通過第二個(gè)請(qǐng)求。

實(shí)例二 burst緩存處理

我們看到,我們短時(shí)間內(nèi)發(fā)送了大量請(qǐng)求,Nginx按照毫秒級(jí)精度統(tǒng)計(jì),超出限制的請(qǐng)求直接拒絕。這在實(shí)際場(chǎng)景中未免過于苛刻,真實(shí)網(wǎng)絡(luò)環(huán)境中請(qǐng)求到來不是勻速的,很可能有請(qǐng)求“突發(fā)”的情況,也就是“一股子一股子”的。Nginx考慮到了這種情況,可以通過burst關(guān)鍵字開啟對(duì)突發(fā)請(qǐng)求的緩存處理,而不是直接拒絕。
來看我們的配置:

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;server {?

? ? location / {?

? ? ? ? limit_req zone=mylimit burst=4;

? ? }

}

我們加入了burst=4,意思是每個(gè)key(此處是每個(gè)IP)最多允許4個(gè)突發(fā)請(qǐng)求的到來。如果單個(gè)IP在10ms內(nèi)發(fā)送6個(gè)請(qǐng)求,結(jié)果會(huì)怎樣呢?

相比實(shí)例一成功數(shù)增加了4個(gè),這個(gè)我們?cè)O(shè)置的burst數(shù)目是一致的。具體處理流程是:1個(gè)請(qǐng)求被立即處理,4個(gè)請(qǐng)求被放到burst隊(duì)列里,另外一個(gè)請(qǐng)求被拒絕。通過burst參數(shù),我們使得Nginx限流具備了緩存處理突發(fā)流量的能力。

但是請(qǐng)注意:burst的作用是讓多余的請(qǐng)求可以先放到隊(duì)列里,慢慢處理。如果不加nodelay參數(shù),隊(duì)列里的請(qǐng)求不會(huì)立即處理,而是按照rate設(shè)置的速度,以毫秒級(jí)精確的速度慢慢處理。

實(shí)例三 nodelay降低排隊(duì)時(shí)間

實(shí)例二中我們看到,通過設(shè)置burst參數(shù),我們可以允許Nginx緩存處理一定程度的突發(fā),多余的請(qǐng)求可以先放到隊(duì)列里,慢慢處理,這起到了平滑流量的作用。但是如果隊(duì)列設(shè)置的比較大,請(qǐng)求排隊(duì)的時(shí)間就會(huì)比較長(zhǎng),用戶角度看來就是RT變長(zhǎng)了,這對(duì)用戶很不友好。有什么解決辦法呢?nodelay參數(shù)允許請(qǐng)求在排隊(duì)的時(shí)候就立即被處理,也就是說只要請(qǐng)求能夠進(jìn)入burst隊(duì)列,就會(huì)立即被后臺(tái)worker處理,請(qǐng)注意,這意味著burst設(shè)置了nodelay時(shí),系統(tǒng)瞬間的QPS可能會(huì)超過rate設(shè)置的閾值。nodelay參數(shù)要跟burst一起使用才有作用。

延續(xù)實(shí)例二的配置,我們加入nodelay選項(xiàng):

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;

server {?

? ? location / {?

? ? ? ? limit_req zone=mylimit burst=4 nodelay;

? ? }

}

單個(gè)IP 10ms內(nèi)并發(fā)發(fā)送6個(gè)請(qǐng)求,結(jié)果如下:

跟實(shí)例二相比,請(qǐng)求成功率沒變化,但是總體耗時(shí)變短了。這怎么解釋呢?實(shí)例二中,有4個(gè)請(qǐng)求被放到burst隊(duì)列當(dāng)中,工作進(jìn)程每隔500ms(rate=2r/s)取一個(gè)請(qǐng)求進(jìn)行處理,最后一個(gè)請(qǐng)求要排隊(duì)2s才會(huì)被處理;實(shí)例三中,請(qǐng)求放入隊(duì)列跟實(shí)例二是一樣的,但不同的是,隊(duì)列中的請(qǐng)求同時(shí)具有了被處理的資格,所以實(shí)例三中的5個(gè)請(qǐng)求可以說是同時(shí)開始被處理的,花費(fèi)時(shí)間自然變短了。

但是請(qǐng)注意,雖然設(shè)置burst和nodelay能夠降低突發(fā)請(qǐng)求的處理時(shí)間,但是長(zhǎng)期來看并不會(huì)提高吞吐量的上限,長(zhǎng)期吞吐量的上限是由rate決定的,因?yàn)閚odelay只能保證burst的請(qǐng)求被立即處理,但Nginx會(huì)限制隊(duì)列元素釋放的速度,就像是限制了令牌桶中令牌產(chǎn)生的速度。

看到這里你可能會(huì)問,加入了nodelay參數(shù)之后的限速算法,到底算是哪一個(gè)“桶”,是漏桶算法還是令牌桶算法?當(dāng)然還算是漏桶算法。考慮一種情況,令牌桶算法的token為耗盡時(shí)會(huì)怎么做呢?由于它有一個(gè)請(qǐng)求隊(duì)列,所以會(huì)把接下來的請(qǐng)求緩存下來,緩存多少受限于隊(duì)列大小。但此時(shí)緩存這些請(qǐng)求還有意義嗎?如果server已經(jīng)過載,緩存隊(duì)列越來越長(zhǎng),RT越來越高,即使過了很久請(qǐng)求被處理了,對(duì)用戶來說也沒什么價(jià)值了。所以當(dāng)token不夠用時(shí),最明智的做法就是直接拒絕用戶的請(qǐng)求,這就成了漏桶算法。

示例四 自定義返回值

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=2r/s;

server {?

? ? location / {?

? ? ? ? limit_req zone=mylimit burst=4 nodelay;

? ? ? ? limit_req_status 598;

? ? }

}

默認(rèn)情況下 沒有配置 status 返回值的狀態(tài):

自定義 status 返回值的狀態(tài):


閱讀原文:https://blog.csdn.net/baidu_38432732/article/details/120060536


該文章在 2025/8/20 15:12:35 編輯過
關(guān)鍵字查詢
相關(guān)文章
正在查詢...
點(diǎn)晴ERP是一款針對(duì)中小制造業(yè)的專業(yè)生產(chǎn)管理軟件系統(tǒng),系統(tǒng)成熟度和易用性得到了國(guó)內(nèi)大量中小企業(yè)的青睞。
點(diǎn)晴PMS碼頭管理系統(tǒng)主要針對(duì)港口碼頭集裝箱與散貨日常運(yùn)作、調(diào)度、堆場(chǎng)、車隊(duì)、財(cái)務(wù)費(fèi)用、相關(guān)報(bào)表等業(yè)務(wù)管理,結(jié)合碼頭的業(yè)務(wù)特點(diǎn),圍繞調(diào)度、堆場(chǎng)作業(yè)而開發(fā)的。集技術(shù)的先進(jìn)性、管理的有效性于一體,是物流碼頭及其他港口類企業(yè)的高效ERP管理信息系統(tǒng)。
點(diǎn)晴WMS倉儲(chǔ)管理系統(tǒng)提供了貨物產(chǎn)品管理,銷售管理,采購(gòu)管理,倉儲(chǔ)管理,倉庫管理,保質(zhì)期管理,貨位管理,庫位管理,生產(chǎn)管理,WMS管理系統(tǒng),標(biāo)簽打印,條形碼,二維碼管理,批號(hào)管理軟件。
點(diǎn)晴免費(fèi)OA是一款軟件和通用服務(wù)都免費(fèi),不限功能、不限時(shí)間、不限用戶的免費(fèi)OA協(xié)同辦公管理系統(tǒng)。
Copyright 2010-2025 ClickSun All Rights Reserved

黄频国产免费高清视频,久久不卡精品中文字幕一区,激情五月天AV电影在线观看,欧美国产韩国日本一区二区
中文字幕乱码亚洲精品 | 又黄又爽又色无遮挡国产 | 亚洲成a人片在线观看高清 亚洲国产精品视频中文字幕 | 亚洲欧美中文字幕乱码在线 | 在线看片线路一入口 | 日韩欧美国产另类一区二区 |