限流令牌桶算法

㈠ 漏桶算法的漏桶算法和令牌桶算法的区别

漏桶算法与令牌桶算法在表面看起来类似，很容易将两者混淆。但事实上，这两者具有截然不同的特性，且为不同的目的而使用。漏桶算法与令牌桶算法的区别在于：
l 漏桶算法能够强行限制数据的传输速率。
l 令牌桶算法能够在限制数据的平均传输速率的同时还允许某种程度的突发传输。
需要说明的是：在某些情况下，漏桶算法不能够有效地使用网络资源。因为漏桶的漏出速率是固定的，所以即使网络中没有发生拥塞，漏桶算法也不能使某一个单独的数据流达到端口速率。因此，漏桶算法对于存在突发特性的流量来说缺乏效率。而令牌桶算法则能够满足这些具有突发特性的流量。通常，漏桶算法与令牌桶算法结合起来为网络流量提供更高效的控制。

㈡ 什么是漏桶算法和令牌桶算法

什么是令牌桶
在我们讨论突发数据量之前，我们首先要理解令牌桶的概念。令牌桶本身没有丢弃
和优先级策略，
令牌桶是这样工作的：
1． 令牌以一定的速率放入桶中。
2． 每个令牌允许源发送一定数量的比特。
3． 发送一个包，流量调节器就要从桶中删除与包大小相等的令牌数。
4． 如果没有足够的令牌发送包，这个包就会等待直到有足够的令牌（在整形
器的情况下）或者包被丢弃，也有可能被标记更低的DSCP（在策略者的情况下）。
5． 桶有特定的容量，如果桶已经满了，新加入的令牌就会被丢弃。因此，在
任何时候，源发送到网络上的最大突发数据量与桶的大小成比例。令牌桶允许突发，
但是不能超过限制。
Cisco IOS 流量策略（Traffic Policers）
IOS支持两种流量策略：
1． 传统的Cisco流量策略：CAR承诺接入速率，使用命令
Router(config-if)#rate-limit {input | output} CIR (bps)
Bc（burst-normal） Be(burst-max) conform-action action exceed-action action
2． 新型的Cisco流量策略：基于类的策略（Class-based policer），使用模
块化Qos CLI（MQC）语法。可以使用MQC命令建立流量策略并把策略应用到接口。
一个流量策略包括一个流量类（traffic class）和一个或多个Qos特性。Policy
命令用来执行流量策略特性，它指定了一个流量类所需要的最大速率，超过这个速
率Qos系统会立刻执行一个操作，标准的操作是丢弃或重置包头的DSCP字段。Policy
命令的语法是：
police cir<bps> Bc<bc> Be<be> conform<conform-action> exceed
<exceed-action> violate<violate-action>
理解Bc和Be
对于超额的数据包，流量策略并不会把它们缓存稍候转发，只有整形器（shaper）
会这样做。流量策略只执行一个发送或不发送的策略。因为不能缓存数据包，所以
在发生拥塞时，所能做的最好的方法就是通过配置适当的超额突发数据量Be来不那
么过分的丢弃数据包。这一点对理解流量策略使用Bc和Be来保证达到CIR是非常
重要的。
超额参数模仿路由器的通用缓存规则。The rule recommends configuring buffering
equal to the round-trip time bitrate to accommodate the outstanding TCP
windows of all connections in times of congestion.
突发参数 目的 推荐公式
普通突发 · 执行标准的令牌桶 · 设置最大数量的令牌(尽管如
果Be>Bc的话可以借到令牌). · 决定令牌桶有多大，因为如果桶已经满了那么令
牌将被丢弃而不会再加入到桶中。 CIR [bps] * (1 byte)/(8 bits) * 1.5
seconds Note: 1.5 seconds is the typical round trip time.
超额突发 · 为令牌桶提供超额突发能力 · 如果Bc = Be那么不
支持超额突发 · 当Bc = Be，流量调节器就不能借令牌，当令牌不够时只能丢弃数
据包 两倍的Bc
对TCP流量的测试表明，Bc 和Be的数值应该近似等于配置的平均速率在两秒钟内
的流量。如果你想限制流量在1Mb，应该把Bc 设置在1-2Mb，Be在2-4Mb。
举个例子，如果我们想把输出速率限制在1.5Mbps，我们可以做一下步骤：
1． 把承诺速率从比特转换成字节，因为突发数据量的单位为字节。
1500000 bits / 8 bits = 187500 bytes
2． 使用标准的1.5秒往返时间（round-trip time）计算Bc
187500 bytes * 1.5秒 = 281250 bytes
3． 两倍的Bc为Be
281250 bytes * 2 = 562500 bytes
使用命令
rate-limit input 1500000 281250 562500 conform-action {action}
exceed-action {action}
超额突发数据量
当数据包到达时可用的令牌数目小于包的大小，就可以使用超额突发数据量。包会
请求借用令牌。可以通过配置大于Bc的Be的数值来为令牌桶提供超额突发能力。
可以通过下面两个例子来理解Be。
第一个例子说明怎样配置CAR策略来允许所有的IP流量。管理员在T3线路上提供
了便宜的20Mbps的子速率服务。用户只花费子速率带宽的金额，也可以按需要增加
带宽。CAR限制了用户可用的流量速率，用户只能使用规定的速率加上承诺的突发
数据量。可以适当的设置Be=32000。
interface hssi 0/0/0
rate-limit output 20000000 24000 32000 conform-action transmit
exceed-action drop
下一个例子，用户只能发送24000字节的突发数据量，所有超过限制的数据包都要
被丢弃，因为设置Bc=Be，数据包流不能通过超额突发能力来借用令牌。
interface Hssi0/0/0
rate-limit output 20000000 24000 24000 conform-action transmit
exceed-action drop
正确设置突发数据量的重要性
策略以字节为单位指定了突发数据量，基于类的策略（class-based policer）支持
最小的突发数据量为1000字节，包括第二层包头。
突发数据量的目的是逐渐的丢弃数据包，就像RED那样，并且避免尾丢弃。设置足
够高的突发数据量对保证良好的吞吐量是非常重要的。
设置突发数据量时，考虑一下内容：
1． 如果突发数据量设置的过低，数据到达的速率将远远低于配置的速率。
2． 惩罚暂时突发对TCP流的吞吐量来说是相当不利的，具体情况请察看RFC
2001 and Random Early Detection (RED) gateways for Congestion Avoidance。
设置突发数据量来允许路由器容纳暂时突发。
3． 对离开接口的数据包的处理基于包的大小和桶中剩余的令牌数。
4． 在基于类的策略中，流量测量器不论接口是否拥塞都是激活的。每个包都
会经过令牌桶测量系统来决定是否符合配置的参数。
5． 如果数据突发量非常大而且非常突然，那么配置较高的超额突发数据量可
以保证超额令牌桶中存放较多的令牌。而且可以调整接口的MTU等于或大于突发数
据量大小。
允许的突发数据量数值
最初，包括IOS12.0，rate-limit命令支持承诺和超额的突发数据量的范围是：
Router1(config-if)#rate-limit input 18000000 ?
<8000-2000000> Normal burst bytes
Router1(config-if)#rate-limit input 18000000 2000000 ?
<8000-8000000> Maximum burst bytes
Router1(config-if)#rate-limit input 18000000 2000000
IOS12.1增加了突发数据量的最大值：
7500-107(config)#interface atm 1/0/0
7500-107(config-if)#rate-limit output ?
<8000-2000000000> Bits per second
access-group Match access list
qos-group Match qos-group ID<b

㈢ mysql 大流量，高并发问题

限流算法目前程序开发过程常用的限流算法有两个：漏桶算法和令牌桶算法。

漏桶算法

漏桶算法的原理比较简单，请求进入到漏桶中，漏桶以一定的速率漏水。当请求过多时，水直接溢出。可以看出，漏桶算法可以强制限制数据的传输速度。如图所示，把请求比作是水滴，水先滴到桶里，通过漏洞并以限定的速度出水，当水来得过猛而出水不够快时就会导致水直接溢出，即拒绝服务。

图片来自网络

漏桶算法和令牌桶算法的选择

两者的主要区别漏桶算法能够强行限制处理数据的速率，不论系统是否空闲。而令牌桶算法能够在限制数据的平均处理速率的同时还允许某种程度的突发流量。如何理解上面的含义呢？漏桶算法，比如系统吞吐量是 120/s，业务请求 130/s，使用漏斗限流 100/s，起到限流的作用，多余的请求将产生等待或者丢弃。对于令牌桶算法，每秒产生 100 个令牌，系统容量 200 个令牌。正常情况下，业务请求 100/s 时，请求能被正常被处理。当有突发流量过来比如 200 个请求时，因为系统容量有 200 个令牌可以同一时刻处理掉这 200 个请求。如果是漏桶算法，则只能处理 100 个请求，其他的请求等待或者被丢弃。