Guava官方文档-RateLimiter类 | 并发编程网 – ifeve.com

Guava官方文档-RateLimiter类 | 并发编程网 – ifeve.com

RateLimiter 从概念上来讲，速率限制器会在可配置的速率下分配许可证。如果必要的话，每个acquire() 会阻塞当前线程直到许可证可用后获取该许可证。一旦获取到许可证，不需要再释放许可证。

校对注：RateLimiter使用的是一种叫令牌桶的流控算法，RateLimiter会按照一定的频率往桶里扔令牌，线程拿到令牌才能执行，比如你希望自己的应用程序QPS不要超过1000，那么RateLimiter设置1000的速率后，就会每秒往桶里扔1000个令牌。

查看源代码

打印帮助

1	com.google.common.util.concurrent.RateLimiter

2

3	@ThreadSafe

4	@Betapublic

5	abstract class RateLimiter extends Object

RateLimiter经常用于限制对一些物理资源或者逻辑资源的访问速率。与Semaphore 相比，Semaphore 限制了并发访问的数量而不是使用速率。（注意尽管并发性和速率是紧密相关的，比如参考Little定律）

通过设置许可证的速率来定义RateLimiter。在默认配置下，许可证会在固定的速率下被分配，速率单位是每秒多少个许可证。为了确保维护配置的速率，许可会被平稳地分配，许可之间的延迟会做调整。
可能存在配置一个拥有预热期的RateLimiter 的情况，在这段时间内，每秒分配的许可数会稳定地增长直到达到稳定的速率。

举例来说明如何使用RateLimiter，想象下我们需要处理一个任务列表，但我们不希望每秒的任务提交超过两个：

查看源代码

打印帮助

1	//速率是每秒两个许可

2	final RateLimiter rateLimiter = RateLimiter.create(2.0);

3

4	void submitTasks(List tasks, Executor executor) {

5	for (Runnable task : tasks) {

6	rateLimiter.acquire(); // 也许需要等待

7	executor.execute(task);

8

}

9

}

再举另外一个例子，想象下我们制造了一个数据流，并希望以每秒5kb的速率处理它。可以通过要求每个字节代表一个许可，然后指定每秒5000个许可来完成：

查看源代码

打印帮助

1	// 每秒5000个许可

2	final RateLimiter rateLimiter = RateLimiter.create(5000.0);

3

4	void submitPacket(byte[] packet) {

5	rateLimiter.acquire(packet.length);

6	networkService.send(packet);

7

}

有一点很重要，那就是请求的许可数从来不会影响到请求本身的限制（调用acquire(1) 和调用acquire(1000) 将得到相同的限制效果，如果存在这样的调用的话），但会影响下一次请求的限制，也就是说，如果一个高开销的任务抵达一个空闲的RateLimiter，它会被马上许可，但是下一个请求会经历额外的限制，从而来偿付高开销任务。注意：RateLimiter 并不提供公平性的保证。

Read full article from Guava官方文档-RateLimiter类 | 并发编程网 – ifeve.com