1、漏桶原理
漏桶原理是什么呢?我们可以从字面上简单的理解,就是有一个桶,它的体积是固定的,桶底下有一个小洞会不停的漏水出去,而桶的上方有个水龙的头,也不停的往桶里灌的水。
假设我们这个桶的体积是1 l,小洞的口能漏水的最大速率为100毫升/s,对以下情况进行实验:
(1)进水的速率是50毫升/s,这时候对于小洞来说完全无压力,那么这个桶里的水就不会溢出,所有的水都会从小洞里漏出的来。
(2)接着我们把水龙头出水的速率调大到100毫升/s,这个时候,和小洞漏水的速率一样,这个时候桶里的水也不会溢出,桶中的水不会有变化,所有的水都会从小洞里漏出的来。
(3)我们再把水龙头调大,调到150 m/m,这个时候,进水的速率比出水的速率每秒大50毫升,经过20秒后,桶里的水满了,会溢出来,之后每秒都会有50毫升的水会溢出。
以上的不管哪种情况,相同的一点是,漏水的最大速率是一样的。当进水的速率大于漏水的速率,桶满水之后,将有一部分水会被溢出。
换成我们访问一台服务器也一样,限制其流量的存储量和速率,当处理不过来的时候会直接废弃掉一些请求,确保服务器的正常流量处理。
这就是漏桶原理。
2,Nginx漏桶原理配置
Nginx采用漏桶原理(漏水的桶),对请求的ip进行过于频繁的限制,参考文档链接:https://en.wikipedia.org/wiki/Leaky_bucket
具体的配置如下:
#以用户二进制IP地址,定义三个漏桶,滴落速率1-3req/秒,桶空间1 m, 1 m能保持大约16000个(IP)状态
limit_req_zone binary_remote_addr带美元=qps1:1m率=1 r/s;
limit_req_zone binary_remote_addr带美元=qps2:1m率=2 r/s;
limit_req_zone binary_remote_addr带美元=qps3:1m率=3 r/s;
服务器{
#速率每秒=1,峰值=5,延迟请求
#严格按照漏桶速率每秒=1处理每秒请求
#在峰破裂值=5以内的并发请求,会被挂起,延迟处理
#超出请求数限制则直接返回503
#客户端只要控制并发在峰值(破裂)内,就不会触发limit_req_error_log
例# 1:发起一个并发请求=6,拒绝1个,处理1个,进入延迟队列4个:
#时间请求不成功延迟
# 00:01 6 1 1 4
# 00:02 0 0 1 3
# 00:03 0 0 1 2
# 00:04 0 0 1 1
# 00:05开始5 0 0 1 0
位置/延迟{
limit_req区==5 qps1破裂;
}
#速率每秒=1,峰值=5,不延迟请求
#加了nodelay之后,漏桶控制一段时长内的平均每秒=漏桶速率,允许瞬时的峰值每秒比;漏桶每秒
#所以峰值时的最高每秒=(brust + qps-1)=5
#请求不会被延迟,要么处理,要么直接返回503
#客户端需要控制每秒每秒请求数,才不会触发limit_req_error_log
例# 2:每隔5秒发起一次达到峰值的并发请求,由于时间段内平均每秒=1所以仍然符合漏桶速率:
#时间请求拒绝成功
# 00:01 5 0 5
# 00:05开始5 5 0 5
# 00:10 5 0 5
例3:连续每秒发起并发请求=5,由于时间段内平均qps>在1,超出的请求被拒绝:
#时间请求拒绝成功
# 00:01 5 0 5
# 00:02 5 4 1
# 00:03 5 4 1
位置/nodelay {
limit_req区==5 nodelay qps1破裂;
}
}
