自适应限流算法实战

自适应限流算法实战

---

---

一、限流算法演进史：从静态到自适应

1.1 传统限流算法的致命缺陷

算法类型	核心原理	缺陷场景	后果
固定窗口	单位时间固定请求数	突发流量跨越时间窗口	系统过载崩溃
滑动窗口	统计近期请求量	流量尖峰持续冲击	延迟飙升
令牌桶	恒定速率添加令牌	系统负载变化时响应滞后	资源利用率不足
漏桶	恒定速率处理请求	突发流量直接丢弃	业务成功率骤降

1.2 自适应限流的革命性突破

监控指标

算法决策

执行限流

效果反馈

核心优势：

• 实时感知系统状态（CPU/Memory/Latency）
• 动态调整限流阈值
• 平滑应对突发流量

二、自适应限流核心指标体系

2.1 黄金四维指标

指标类型	采集方法	健康阈值	风险权重
系统负载	1分钟Load/CPU利用率	Load<核数*0.7	40%
请求延迟	P99响应时间	<100ms	30%
错误率	5xx错误占比	<0.5%	20%
资源饱和度	线程池队列/DB连接池	<80%	10%

2.2 指标融合公式

健康度 = 0.4*(1 - max(0, (Load - 阈值)/阈值) 
       + 0.3*(1 - max(0, (Latency - 阈值)/阈值)
       + 0.2*(1 - ErrorRate/0.005) 
       + 0.1*(1 - max(0, (Utilization - 0.8)/0.2))

三、经典自适应算法解析

3.1 TCP BBR 带宽自适应

算法核心

# 带宽延迟模型
btl_bw = max(btl_bw, delivered / elapsed_time)  # 最大带宽
rt_prop = min(rt_prop, rtt)                    # 最小RTT
target_rate = btl_bw * gain                    # 增益系数=0.89

限流应用

func bbrLimiter() {
   
    for {
   
        bwEstimate := monitor.GetBandwidth()
        rttMin := monitor.GetMinRTT()
        
        // 计算目标速率
        targetQPS := bwEstimate * 0.89 / avgRequestSize
        
        // 更新限流阈值
        limiter.SetRate(targetQPS)
        time.Sleep(rttMin) // 按RTT频率调整
    }
}

3.2 Netflix Concurrency Limit

梯度下降策略

class ConcurrencyLimit {
   
    private double currentLimit = 1000;
    
    void update(boolean success) {
   
        if (success) {
   
            // 成功时指数增长
            currentLimit = currentLimit * 1.1; 
        } else {
   
            // 失败时线性下降
            currentLimit = currentLimit * 0.95;
        }
    }
}

智能探针机制

sequenceDiagram
    客户端->>+服务端： 探针请求（特殊标记）
    服务端-->>-客户端： 返回系统状态
    客户端->>算法： 根据状态调整限流值

四、AI赋能的智能限流

4.1 LSTM预