Sentinel(四)限流算法-令牌桶算法
2022/6/11 1:21:35
本文主要是介绍Sentinel(四)限流算法-令牌桶算法,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
Sentinel中使用的令牌桶算法,是参考着Guava中的令牌桶算法来的。所以在此之前有必要分析下Guava中的限流算法。参见https://www.cnblogs.com/krock/p/16347965.html
这里直接看Sentinel中如何进行预热限流的。
流控规则看 FlowRuleChecker#passLocalCheck
关于预热的看WarmUpRateLimiterController,这里的预热,虽然是参考Guava中的算法,但是有一点是不一样的,就是Guava中控制的是两个请求的时间间隔internal,而sentinel这里控制的是QPS,
所以在sentinel中使用的一些Guava中的计算公式,需要把QPS和internal进行转换。
首先看下怎么初始化的:
public WarmUpRateLimiterController(double count, int warmUpPeriodSec, int timeOutMs, int coldFactor) { // 调用父类的初始化方法 super(count, warmUpPeriodSec, coldFactor); // 控制台配置的超时时间 this.timeoutInMs = timeOutMs; }
protected double count; private int coldFactor; protected int warningToken = 0; private int maxToken; protected double slope; // 构造函数会调用方法,其中coldFactor这个和Guava中的固定值一样是 3.0
private void construct(double count, int warmUpPeriodInSec, int coldFactor) { if (coldFactor <= 1) { throw new IllegalArgumentException("Cold factor should be larger than 1"); } this.count = count; this.coldFactor = coldFactor; // Guava中的令牌阈值的计算,其中 stableInterval 是两个请求的时间间隔,也就是释放一个令牌的时间 // 在Sentinel这里,需要把 stableInterval 变成QPS,也就是每秒释放的令牌数 两个是倒数的关系 // thresholdPermits = 0.5 * warmupPeriod / stableInterval. // warningToken = 100; // 所以这里的计算公式,就是Guava那边来的 warningToken = (int)(warmUpPeriodInSec * count) / (coldFactor - 1); // Guava中计算桶中最大的令牌数量 ,其中那个 coldInterval = coldFactor *stableInterval // 所以提取公因子之后下面的公式变成 :maxPermits = thresholdPermits + 2 * warmupPeriod / // (1.0+coldFactor)* stableInterval // 所以才有了 maxToken的计算公式 // / maxPermits = thresholdPermits + 2 * warmupPeriod / // (stableInterval + coldInterval) // maxToken = 200 maxToken = warningToken + (int)(2 * warmUpPeriodInSec * count / (1.0 + coldFactor)); // slope // 斜率,Guava中warmup时间段内的斜率 // slope = (coldIntervalMicros - stableIntervalMicros) / (maxPermits // - thresholdPermits); // 同样经过上面讲述的换算也可以得到 slope = (coldFactor - 1.0) / count / (maxToken - warningToken); }
初始化后,看下限流时候是怎么做的
public boolean canPass(Node node, int acquireCount, boolean prioritized) { //上一个时间窗口内通过请求数量 long previousQps = (long) node.previousPassQps(); //同步桶的令牌数量 syncToken(previousQps); long currentTime = TimeUtil.currentTimeMillis(); long restToken = storedTokens.get(); long costTime = 0; long expectedTime = 0; if (restToken >= warningToken) { long aboveToken = restToken - warningToken; // current interval = restToken*slope+1/count // 计算当前两个请求之间的间隔,也就是消耗一个令牌的时间 // 参考Guava中的那个图,数学运算就是 x轴上的差值 乘上斜率 得到纵坐标的差值 double warmingQps = Math.nextUp(1.0 / (aboveToken * slope + 1.0 / count)); // 上面最新的Qps计算出来之后 请求的令牌 除以 QPS 就可以得出需要的花费的时间 costTime = Math.round(1.0 * (acquireCount) / warmingQps * 1000); } else { // 如果小于 warningToken 还不需要预热 所以QPS是固定 count costTime = Math.round(1.0 * (acquireCount) / count * 1000); } // 期望的通过时间 expectedTime = costTime + latestPassedTime.get(); // 当前时间大于了期望时间表示可以放行 if (expectedTime <= currentTime) { latestPassedTime.set(currentTime); return true; } else { // 计算等待的时间 long waitTime = costTime + latestPassedTime.get() - currentTime; // 如果等待时间超过我们配置的超时时间,直接拒绝 if (waitTime > timeoutInMs) { return false; } else { // 如果不超过超时时间,则进行等待 long oldTime = latestPassedTime.addAndGet(costTime); try { waitTime = oldTime - TimeUtil.currentTimeMillis(); if (waitTime > timeoutInMs) { latestPassedTime.addAndGet(-costTime); return false; } if (waitTime > 0) { Thread.sleep(waitTime); } return true; } catch (InterruptedException e) { } } } return false; }
思想还是沿用的Guava中的算法,只是用QPS转换了一下。
这篇关于Sentinel(四)限流算法-令牌桶算法的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-23Springboot应用的多环境打包入门
- 2024-11-23Springboot应用的生产发布入门教程
- 2024-11-23Python编程入门指南
- 2024-11-23Java创业入门:从零开始的编程之旅
- 2024-11-23Java创业入门:新手必读的Java编程与创业指南
- 2024-11-23Java对接阿里云智能语音服务入门详解
- 2024-11-23Java对接阿里云智能语音服务入门教程
- 2024-11-23JAVA对接阿里云智能语音服务入门教程
- 2024-11-23Java副业入门:初学者的简单教程
- 2024-11-23JAVA副业入门:初学者的实战指南