美文网首页
限流算法

限流算法

作者: 忧零520 | 来源:发表于2023-04-23 21:47 被阅读0次

1、漏桶限流算法

漏桶限流算法是一种常见的限流算法,它的基本思想是模拟一个漏桶来控制流量。这个漏桶可以看作一个固定容量的桶,所有的请求都先进入到这个桶里,然后按照一定的速率流出,如果请求进来的速度过快,超过了桶的容量,那么多余的请求就会被直接丢弃或者排队等待处理。

漏桶限流算法的实现方式也很简单,大致可以分为以下几个步骤:

初始化一个固定容量的漏桶,并设置流出速率。
当有请求进来时,先将其放入漏桶中。
如果漏桶还有剩余容量,那么这个请求就可以被处理,同时从漏桶中流出一个请求。
如果漏桶已经满了,那么这个请求就被丢弃或者排队等待处理。
在实际编程中,我们可以使用一个定时任务来模拟漏桶的流出速率,每次定时任务执行时,从漏桶中流出一个请求进行处理。

以下是一个简单的Java实现漏桶限流算法的示例代码:

public class LeakyBucket {
    private final int capacity;  // 漏桶容量
    private final int rate;      // 流出速率,单位为请求数/秒
    private int water;           // 当前水量
    private long timestamp;      // 上次流出时间

    public LeakyBucket(int capacity, int rate) {
        this.capacity = capacity;
        this.rate = rate;
        this.water = 0;
        this.timestamp = System.currentTimeMillis();
    }

    public boolean allowRequest() {
        // 先计算当前漏桶中的水量
        long now = System.currentTimeMillis();
        int out = (int) ((now - timestamp) / 1000 * rate);
        water = Math.max(0, water - out);

        // 检查漏桶是否已经满了
        if (water >= capacity) {
            return false;  // 漏桶已满,拒绝请求
        }

        // 漏桶还有剩余容量,将请求放入漏桶中,并更新时间戳和水量
        timestamp = now;
        water++;
        return true;
    }
}

在上面的代码中,LeakyBucket类表示一个漏桶限流器,它包含漏桶的容量、流出速率、当前水量以及上次流出时间等属性。allowRequest方法用于处理请求,如果漏桶还有剩余容量,那么这个请求就可以被处理,同时从漏桶中流出一个请求。否则,漏桶已满,拒绝请求。

2、滑动窗口限流算法

滑动窗口限流算法是一种常见的限流算法,用于控制请求流量,防止系统被过多的请求压垮。

该算法的基本思想是,将时间划分成固定大小的多个时间段,每个时间段称为一个桶,将请求分配到不同的桶中。如果某个桶中的请求数量超过了阈值,就拒绝该桶中多余的请求。

具体实现中,我们可以使用一个固定大小的队列来表示滑动窗口,队列中的每个元素表示一个时间段对应的桶。每当有请求到来时,就将其放入当前时间段对应的桶中,并计算当前滑动窗口中所有桶的请求数量。如果总请求数量超过了阈值,就拒绝该请求。同时,我们需要定期移除队列中最老的元素,以保证滑动窗口能够不断向前移动。

滑动窗口限流算法简单易懂,适用于大多数场景,但需要根据具体业务场景调整桶的大小和阈值的设定,以达到最佳的限流效果。

import java.util.LinkedList;
import java.util.Queue;

public class SlidingWindowRateLimiter {
    private Queue<Long> window;
    private final int limit;
    private final long windowSize;

    public SlidingWindowRateLimiter(int limit, long windowSize) {
        this.window = new LinkedList<>();
        this.limit = limit;
        this.windowSize = windowSize;
    }

    public synchronized boolean tryAcquire() {
        long now = System.currentTimeMillis();
        if (window.size() >= limit) {
            long oldest = window.peek();
            if (now - oldest < windowSize) {
                return false; // Reject request
            }
            window.poll();
        }
        window.offer(now);
        return true; // Accept request
    }
}

相关文章

  • 限流框架系列之常见限流算法

    四种常见的限流算法 固定时间窗口限流算法 滑动时间窗口限流算法 令牌桶限流算法 漏桶限流算法 算法比较 算法确定参...

  • 高并发下的Nginx实用配置 - 限流和黑白名单

    1. 限流算法 漏桶算法 令牌桶算法 更多限流算法相关知识,请查看【单机限流 - 限流算法及隔离策略】[https...

  • 网关限流实例

    描述 限流是指将处理请求数限定在单位时间的阀值内。常用的限流算法固定时间窗口限流算法和滑动时间窗口限流算法。固定时...

  • 高并发环境下的限流策略

    本文将从以下几个方面分析限流策略: 什么是限流限流算法限流算法的应用 什么是限流 在开发高并发系统时,有很多手段来...

  • 基础架构 | 限流算法

    限流算法 令牌桶算法 漏桶算法

  • 2020-06-09

    目录 代理层限流 容器限流 API 限流 时间窗口 漏桶算法 令牌桶算法 总结 为了保护暴露在公网...

  • Redis+Lua脚本三步实现分布式系统限流

      在分布式系统中,说到限流方案我们一般会使用redis结合限流算法来做,一般的限流算法有令牌桶算法、漏桶算法、固...

  • 分布式架构

    大流量限流/削峰 常见的限流算法 计数器算法池化资源技术的限流就是通过计数器算法来控制全局的总并发数。 令牌桶算法...

  • 限流算法简介及Guava RateLimiter令牌桶限流介绍

    参考 常用4种限流算法介绍及比较 超详细的Guava RateLimiter限流原理解析 限流算法简介 1.计数器...

  • 高可用实践-限流算法

    限流算法 常见的限流算法有计数器算法、漏桶算法和令牌桶算法。 计数器法 计数器算法“简单粗暴”。该算法会维护一个c...

网友评论

      本文标题:限流算法

      本文链接:https://www.haomeiwen.com/subject/rdiyjdtx.html