Redis系列17：聊聊布隆过滤器（实践篇）

2023/6/14 18:22:06

编程Tag： 缓存高性能 Redis 布隆过滤器 bloomfilter Redis 6.0

本文主要是介绍Redis系列17：聊聊布隆过滤器（实践篇），对大家解决编程问题具有一定的参考价值，需要的程序猿们随着小编来一起学习吧！

Redis系列1：深刻理解高性能Redis的本质
Redis系列2：数据持久化提高可用性
Redis系列3：高可用之主从架构
Redis系列4：高可用之Sentinel(哨兵模式）
Redis系列5：深入分析Cluster 集群模式
追求性能极致：Redis6.0的多线程模型
追求性能极致：客户端缓存带来的革命
Redis系列8：Bitmap实现亿万级数据计算
Redis系列9：Geo 类型赋能亿级地图位置计算
Redis系列10：HyperLogLog实现海量数据基数统计
Redis系列11：内存淘汰策略
Redis系列12：Redis 的事务机制
Redis系列13：分布式锁实现
Redis系列14：使用List实现消息队列
Redis系列15：使用Stream实现消息队列
Redis系列16：聊聊布隆过滤器（原理篇）

1 介绍

布隆过滤器（Bloom Filter）是 Redis 4.0 版本提供的新功能，我们一般将它当做插件加载到 Redis 服务器中，给 Redis 提供强大的去重功能。
它是一种概率性数据结构，可用于判断一个元素是否存在于一个集合中。相比较之 Set 集合的去重功能，布隆过滤器空间上能节省 90% +，不足之处是去重率大约在 99% 左右，那就是有 1% 左右的误判率，这种误差是由布隆过滤器的自身结构决定的。

优点：空间效率和查询时间都比一般的算法要好的多
缺点：有一定的误识别率和删除困难

2 使用场景介绍

我们在遇到数据量大的时候，为了去重并避免大批量的重复计算，可以考虑使用 Bloom Filter 进行过滤。
具体常用的经典场景如下：

解决大流量下缓存穿透的问题，参考笔者这篇《一次缓存雪崩的灾难复盘》。
过滤被屏蔽、拉黑、减少推荐的信息，一般你在浏览抖音或者百度App的时候，看到不喜欢的会设置减少推荐、屏蔽此类信息等，都可以采用这种原理设计。
各种名单过滤，使用布隆过滤器实现第一层的白名单或者黑名单过滤，可用于各种AB场景。

下面以缓存穿透为解决目标进行讲解。

3 实战介绍

缓存穿透是指访问一个不存在的key，缓存不起作用，请求会穿透到DB，流量井喷时会导致DB挂掉。
比如我们查询用户的信息，程序会根据用户的编号去缓存中检索，如果找不到，再到数据库中搜索。如果你给了一个不存在的编号：XXXXXXXX，那么每次都比对不到，就透过缓存进入数据库。
这样风险很大，如果因为某些原因导致大量不存在的编号被查询，甚至被恶意伪造编号进行攻击，那将是灾难。
解决方案质疑就是在缓存之前在加一层 BloomFilter ：

把存在的key记录在BloomFilter中，在查询的时候先去 BloomFilter 去查询 key 是否存在，如果不存在则说明数据库和缓存都没有，就直接返回，
存在再走查缓存，投入数据库去查询，这样减轻了数据库的压力。

3.1 巨量查询信息案例解析

下面以火车票订购和查询为案例进行说明，如果火车票被恶意攻击，模拟了一模一样的火车票订单编号，那很可能通过大量的请求穿透过缓存层把数据库打雪崩了，所以使用布隆过滤器为服务提供一层保障。
具体的做法就是，我们在购买火车票成功的时候，把订单号的ID写入（异步或者消息队列的方式）到布隆过滤器中，保障后续的查询都在布隆过滤器中走一遍再进到缓存中去查询。火车票订单Id同步到 Bloom Filter 的步骤如下：

3.2 创建Bloom Filter的方式

创建 Bloom Filter 的语法如下：

# BF.RESERVE {key} {error_rate} {capacity} [EXPANSION {expansion}] [NONSCALING]
BF.RESERVE ticket_orders 0.01 1000000

key：布隆过滤器的名字，这边指的是创建一个名为 ticket_orders 的过滤器。
error_rate：期望的错误率，默认值为 0.1，值越低，需要的空间越大。就像我们上一节说的，空间越大碰撞的可能性越低。
capacity：初始的空间容量，默认值为 100，当实际元素的数量超过这个初始化容量时，碰撞的可能性越高，误判率也越高。
EXPANSION：可选参，数据达到初始容量后，布隆过滤器会自动创建一个子过滤器，大小为上一个过滤器乘以 expansion。expansion 的默认值为 2，也就是说默认扩容2倍；
NONSCALING：可选参，指的是数据达到初始容量后，不会扩容过滤器，并抛出异常（(error) ERR non scaling filter is full）。

而上面那句命令是，通过BF.RESERVE命令手动创建一个名字为 ticket_orders，错误率为 0.01 ，初始容量为 1000000 的布隆过滤器。
这边需要注意的一些点是：

error_rate 越小，对碰撞的容忍度越小，需要的存储空间就越大。如果允许一定比例的不准确，对精确度要求不高的场景，error_rate 可以设的稍大一点。
capacity 设置的过大，会浪费存储空间，设置过小，准确度不高。所以评估的时候需要精准一点，既要避免浪费空间也要保证准确比例。

3.3 添加火车票订单Id到Bloom Filter

# BF.ADD {key}  {value ... }

# 添加单个订单号
BF.ADD ticket_orders 2023061008795
(integer) 1

# 添加多个订单号
BF.MADD ticket_orders 2023061008796 2023061008797 2023061008798
1) (integer) 1
2) (integer) 1
3) (integer) 1

以上的语句是将已经订好的车票订单号存储到Bloom Filter中，包括一次存储单个和一次存储多个。

3.4 判断火车票订单Id是否存在

# BF.EXISTS {key} {value} ，存在的话返回 1，不存在返回 0
BF.EXISTS ticket_orders 2023061008795
(integer) 1

# 批量判断多个值是否存在于布隆过滤器，语句如下：
BF.MEXISTS ticket_orders 2023061008796 2023061008797 2023061008798
1) (integer) 0
2) (integer) 1
3) (integer) 0

BF.EXISTS 判断一个元素是否存在于 Bloom Filter中，返回值 = 1 表示存在，返回值 = 0 表示不存在。可以一次性判断单个元素，或者一次性判断多个元素。

3.5 Review已建的布隆过滤器列表

# 使用 BF.INFO {key} 语法查看

BF.INFO ticket_orders
 1) Capacity
 2) (integer) 1000000
 3) Size
 4) (integer) 3
 5) Number of filters
 6) (integer) 1
 7) Number of items inserted
 8) (integer) 3
 9) Expansion rate
10) (integer) 2

返回值解析：
Capacity：预设容量，我们前面设置了1000000。
Size：实际占用情况，我们前面设置了3个值：2023061008796、 2023061008797、 2023061008798。
Number of filters：过滤器的层数。
Number of items inserted：实际已插入的元素数量。
Expansion rate：子过滤器扩容的系数，咱们前面创建的时候未设值，所以这边是默认 2。

综上，我们通过 BF.RESERVE、BF.ADD、BF.EXISTS、BF.INFO 等几个指令就能实现布隆过滤器的建设，避免缓存穿透的情况发生。
因为你查询缓存的时候，必然你先到Bloom Filter中先过滤一次，这样就不会因为无效的key把缓存打穿。

4 程序实现说明

Spring Boot版本： 2.5.x。

4.1 添加 Redission Maven 依赖

如果实际情况可以使用更高版本

<dependency>
  <groupId>org.redisson</groupId>
  <artifactId>redisson-spring-boot-starter</artifactId>
  <version>3.17.1</version>
</dependency>

4.2 Spring boot Yaml中的 Redission 配置

spring:
  application:
    name: redission
  redis:
    cluster:
      nodeAddresses: [
          "redis://127.0.0.1:8000",
          "redis://127.0.0.1:8001",
          "redis://127.0.0.1:8002",
          "redis://127.0.0.1:8003",
          "redis://127.0.0.1:8004",
          "redis://127.0.0.1:8005"
      ]
    password: ********
    single:
      address: "redis://127.0.0.1:6379"
      database: 6

4.3 创建布隆过滤器相关

@Service
public class BloomFilterService {

    @Autowired
    private RedissonClient redissonClient;
	
    /**
     * 创建布隆过滤器
     * @param filterKey 过滤器名称，等同上面的key
     * @param expectedCapacity  预计元素容量，等同于上面的capacity
     * @param falseRate 允许的误判率，等同于上面的error_rate
     * @param <T>
     * @return
     */
    public <T> RBloomFilter<T> create(String filterKey, long expectedCapacity, double falseRate) {
	    // 集群模式
	    RClusteredBloomFilter<T> bloomFilter = redissonClient.getClusteredBloomFilter(filterKey);
        // 以下是单实例模式
		// RBloomFilter<T> bloomFilter = redissonClient.getBloomFilter(filterKey);
        bloomFilter.tryInit(expectedCapacity, falseRate);
        return bloomFilter;
    }
}

4.4 测试实现

    @Autowired
    private BloomFilterService bloomFilterService;

    @Test
    public void testBloomFilter() {
        // 预计元素容量 1000000
        long expectedCapacity = 1000000L;
        // 错误率
        double falseRate = 0.01;
        RBloomFilter<Long> bloomFilter = bloomFilterService.create("ticket_orders", expectedCapacity, falseRate);

        // 元素增加测试并输出统计
        for (long idx = 0; idx < expectedCapacity; idx++) {
            bloomFilter.add(idx);
        }
        long eleCount = bloomFilter.count();
        log.info("eleCount = {}.", elementCount);
    }

5 总结

本篇介绍了布隆过滤器的几种实现场景。
并以火车票订单信息查询为案例进行说明，如何使用布隆过滤器避免缓存穿透，避免被恶意攻击。

这篇关于Redis系列17：聊聊布隆过滤器（实践篇）的文章就介绍到这儿，希望我们推荐的文章对大家有所帮助，也希望大家多多支持为之网！