目录
限流策略详解：接口限流、网关限流、单机限流与分布式限流
一、限流的基本概念
限流的应用场景
二、限流方式分析
1. 接口限流 vs 网关限流
接口限流的实现
网关限流的实现
2. 单机限流 vs 分布式限流
单机限流的实现
分布式限流的实现
3. 上游客户端与下游服务器端限流
上游客户端限流
下游服务器端限流
三、总结
在高并发系统中，限流是保证系统稳定性与可用性的核心策略之一。限流的目标是防止请求过多导致系统崩溃或资源耗尽，同时确保系统在高负载时仍能保持良好的响应能力。本文将从接口限流、网关限流、单机限流与分布式限流等角度，深入讲解限流的方式、实现方法及其应用场景。
一、限流的基本概念
限流是一种控制请求流量的技术手段，其核心目的是防止系统被过量请求压垮，保证系统服务的稳定性和可用性。常见的限流策略包括：
基于令牌桶（Token Bucket）：按时间生成固定数量的令牌，客户端请求时需要获取令牌，获取成功则执行请求，令牌用完则请求被拒绝。基于漏桶（Leaky Bucket）：请求流量通过一个固定容量的“桶”，超出桶容量的请求会被丢弃。计数器法（Fixed Window）：固定时间窗口内请求计数达到上限时，拒绝后续请求。滑动窗口法（Sliding Window）：与计数器法类似，但时间窗口不断滑动，具有更细粒度的控制。
限流的应用场景
保护后端服务：防止某个接口被恶意请求或突发流量击垮。防止滥用：限制单个用户或客户端对接口的访问频率，防止恶意刷接口。节省资源：在高并发时控制流量，保护后端数据库、缓存等资源。
二、限流方式分析
1. 接口限流 vs 网关限流
区别接口限流网关限流应用层面直接在业务接口层面进行限流。通过网关层进行全局流量管理。实施粒度按照具体接口进行限流（如：用户注册接口、支付接口）。通常是对整个应用的流量进行限流，可以跨多个接口。实现方式依赖代码实现、库或框架，如Spring AOP拦截器、Guava限流。通过网关服务（如Nginx、Zuul、Spring Cloud Gateway）配置。适用场景每个接口需要独立控制流量。全局流量管理，适用于微服务架构中统一管理。
接口限流的实现
接口限流通常是在应用服务内部，通过代码或第三方库来实现。这里以 Guava 的 RateLimiter 为例：
import com.google.common.util.concurrent.RateLimiter;
public class ApiService {
private static final RateLimiter rateLimiter = RateLimiter.create(10); // 每秒10个请求
public void processRequest() {
if (rateLimiter.tryAcquire()) {
// 处理请求
System.out.println("Request processed");
} else {
// 请求被拒绝
System.out.println("Request rejected due to rate limit");
}
}
}
网关限流的实现
网关限流通常依赖于API网关进行配置和管理。例如，Spring Cloud Gateway提供了内建的限流功能，可以通过配置文件进行简单配置：
spring:
cloud:
gateway:
routes:
- id: api_route
uri: lb://API-SERVICE
predicates:
- Path=/api/**
filters:
- name: RequestRateLimiter
args:
redis-rate-limiter.replenishRate: 10
redis-rate-limiter.burstCapacity: 20
在这个例子中，replenishRate 设置为每秒10次请求，burstCapacity 设置为20次请求。
2. 单机限流 vs 分布式限流
区别单机限流分布式限流适用范围适用于单机应用，资源请求量较小的场景。适用于分布式系统，跨多个节点或服务的请求管理。实现方式依赖本地缓存、内存、线程池等资源进行限流。通过共享数据存储（如Redis、ZooKeeper等）实现限流。挑战难以扩展到多个实例，容易受到单机性能限制。需要解决分布式数据一致性和高并发的问题。
单机限流的实现
单机限流适合流量较低、部署简单的场景。通常可以通过本地缓存、内存等方式实现。以 Guava RateLimiter 为例：
import com.google.common.util.concurrent.RateLimiter;
public class LocalRateLimiter {
private static final RateLimiter rateLimiter = RateLimiter.create(10);
public static boolean tryAcquire() {
return rateLimiter.tryAcquire();
}
}
该方法每秒限制10次请求。如果请求超过限制，将会被丢弃或延迟。
分布式限流的实现
分布式限流更复杂，需要保证在多节点或多服务器间同步流量限制。常见的解决方案是通过 Redis 来实现。以 Redis 的计数器法为例：
import redis.clients.jedis.Jedis;
public class DistributedRateLimiter {
private Jedis jedis;
private String key;
private int maxRequests;
private int timeWindowInSeconds;
public DistributedRateLimiter(String key, int maxRequests, int timeWindowInSeconds) {
this.jedis = new Jedis("localhost");
this.key = key;
this.maxRequests = maxRequests;
this.timeWindowInSeconds = timeWindowInSeconds;
}
public boolean tryAcquire() {
long currentTime = System.currentTimeMillis() / 1000;
String redisKey = key + ":" + currentTime;
// 自增操作，表示在当前时间窗口内的请求次数
long count = jedis.incr(redisKey);
if (count == 1) {
jedis.expire(redisKey, timeWindowInSeconds);
}
return count <= maxRequests;
}
}
该方法使用 Redis 进行分布式计数，当一个时间窗口内请求次数达到上限时，后续请求会被拒绝。
3. 上游客户端与下游服务器端限流
方向上游客户端限流下游服务器端限流目标控制外部客户端向服务端发起请求的频率。控制服务器向下游服务或数据库等发起请求的频率。常见策略限制每个客户端的请求频率（如：每个IP每秒10次）。控制向下游服务发起请求的频率，避免下游服务过载。实现方式基于IP、API密钥等进行流量控制。通过异步队列、负载均衡、请求缓存等策略进行控制。
上游客户端限流
通常情况下，客户端可以通过 IP 限流、用户认证、API 密钥等方式限制其访问频率。例如，在 API 网关中可以设置每个客户端的请求限制：
spring:
cloud:
gateway:
routes:
- id: client_rate_limit
uri: lb://SERVICE
predicates:
- Path=/api/**
filters:
- name: RequestRateLimiter
args:
redis-rate-limiter.replenishRate: 5
redis-rate-limiter.burstCapacity: 10
下游服务器端限流
下游限流的目标是保护依赖服务或数据库等。可以使用异步队列、缓存等方式进行流量控制。例如：
public class DownstreamRateLimiter {
private final Queue
private static final int MAX_CONCURRENT_REQUESTS = 100;
public synchronized boolean tryAcquire() {
if (requestQueue.size() >= MAX_CONCURRENT_REQUESTS) {
return false; // 超过并发限制，拒绝请求
}
requestQueue.offer(new Request());
return true;
}
public synchronized void releaseRequest() {
requestQueue.poll();
}
}
该方法通过控制请求队列的长度，限制并发请求数量。
三、总结
限流作为高并发系统中重要的稳定性保障机制，能够有效防止系统资源过度消耗，避免系统崩溃。在实际的应用中，限流策略可以根据不同的业务场景进行灵活组合。例如，单机限流适用于流量较低的场景，而分布式限流更适用于微服务架构中。网关限流与接口限流则在不同粒度上分别控制流量，确保各个层级的流量都能够得到有效管理。
在实施限流时，需要考虑到系统的高可用性、容错性以及扩展性，选择合适的限流方案能够帮助企业提升服务质量，保证系统在高并发情况下仍然稳定运行。
希望本文能够帮助你深入理解限流策略，并应用于实际的技术架构中！
推荐阅读：
对外支付时如何保证事务一致性？分布式事务的解决方案解析-CSDN博客