Redis系列1:深刻理解高性能Redis的本质
Redis系列2:数据持久化提高可用性
Redis系列3:高可用之主从架构
Redis系列4:高可用之Sentinel(哨兵模式)
Redis系列5:深入分析Cluster 集群模式
追求性能极致:Redis6.0的多线程模型
追求性能极致:客户端缓存带来的革命
Redis系列8:Bitmap实现亿万级数据计算
Redis系列9:Geo 类型赋能亿级地图位置计算
Redis系列10:HyperLogLog实现海量数据基数统计
Redis系列11:内存淘汰策略
Redis系列12:Redis 的事务机制
Redis系列13:分布式锁实现
Redis系列14:使用List实现消息队列
Redis系列15:使用Stream实现消息队列
Redis系列16:聊聊布隆过滤器(原理篇)
1 介绍
布隆过滤器(Bloom Filter)是 Redis 4.0 版本提供的新功能,我们一般将它当做插件加载到 Redis 服务器中,给 Redis 提供强大的去重功能。
它是一种概率性数据结构,可用于判断一个元素是否存在于一个集合中。相比较之 Set 集合的去重功能,布隆过滤器空间上能节省 90% +,不足之处是去重率大约在 99% 左右,那就是有 1% 左右的误判率,这种误差是由布隆过滤器的自身结构决定的。
- 优点:空间效率和查询时间都比一般的算法要好的多
- 缺点:有一定的误识别率和删除困难
2 使用场景介绍
我们在遇到数据量大的时候,为了去重并避免大批量的重复计算,可以考虑使用 Bloom Filter 进行过滤。
具体常用的经典场景如下:
- 解决大流量下缓存穿透的问题,参考笔者这篇《一次缓存雪崩的灾难复盘》。
- 过滤被屏蔽、拉黑、减少推荐的信息,一般你在浏览抖音或者百度App的时候,看到不喜欢的会设置减少推荐、屏蔽此类信息等,都可以采用这种原理设计。
- 各种名单过滤,使用布隆过滤器实现第一层的白名单或者黑名单过滤,可用于各种AB场景。
下面以缓存穿透为解决目标进行讲解。
3 实战介绍
缓存穿透是指访问一个不存在的key,缓存不起作用,请求会穿透到DB,流量井喷时会导致DB挂掉。
比如 我们查询用户的信息,程序会根据用户的编号去缓存中检索,如果找不到,再到数据库中搜索。如果你给了一个不存在的编号:XXXXXXXX,那么每次都比对不到,就透过缓存进入数据库。
这样风险很大,如果因为某些原因导致大量不存在的编号被查询,甚至被恶意伪造编号进行攻击,那将是灾难。
解决方案质疑就是在缓存之前在加一层 BloomFilter :
- 把存在的key记录在BloomFilter中,在查询的时候先去 BloomFilter 去查询 key 是否存在,如果不存在则说明数据库和缓存都没有,就直接返回,
- 存在再走查缓存 ,投入数据库去查询,这样减轻了数据库的压力。
3.1 巨量查询信息案例解析
下面以火车票订购和查询为案例进行说明,如果火车票被恶意攻击,模拟了一模一样的火车票订单编号,那很可能通过大量的请求穿透过缓存层把数据库打雪崩了,所以使用布隆过滤器为服务提供一层保障。
具体的做法就是,我们在购买火车票成功的时候,把订单号的ID写入(异步或者消息队列的方式)到布隆过滤器中,保障后续的查询都在布隆过滤器中走一遍再进到缓存中去查询。火车票订单Id同步到 Bloom Filter 的步骤如下:
3.2 创建Bloom Filter的方式
创建 Bloom Filter 的语法如下:
# BF.RESERVE {key} {error_rate} {capacity} [EXPANSION {expansion}] [NONSCALING]
BF.RESERVE ticket_orders 0.01 1000000
- key:布隆过滤器的名字,这边指的是创建一个名为 ticket_orders 的过滤器。
- error_rate:期望的错误率,默认值为 0.1,值越低,需要的空间越大。就像我们上一节说的,空间越大碰撞的可能性越低。
- capacity:初始的空间容量,默认值为 100,当实际元素的数量超过这个初始化容量时,碰撞的可能性越高,误判率也越高。
- EXPANSION:可选参,数据达到初始容量后,布隆过滤器会自动创建一个子过滤器,大小为上一个过滤器乘以 expansion。expansion 的默认值为 2,也就是说默认扩容2倍;
- NONSCALING:可选参,指的是数据达到初始容量后,不会扩容过滤器,并抛出异常((error) ERR non scaling filter is full)。
而上面那句命令是,通过BF.RESERVE命令手动创建一个名字为 ticket_orders,错误率为 0.01 ,初始容量为 1000000 的布隆过滤器。
这边需要注意的一些点是:
- error_rate 越小,对碰撞的容忍度越小,需要的存储空间就越大。如果允许一定比例的不准确,对精确度要求不高的场景,error_rate 可以设的稍大一点。
- capacity 设置的过大,会浪费存储空间,设置过小,准确度不高。所以评估的时候需要精准一点,既要避免浪费空间也要保证准确比例。
3.3 添加火车票订单Id到Bloom Filter
# BF.ADD {key} {value ... }
# 添加单个订单号
BF.ADD ticket_orders 2023061008795
(integer) 1
# 添加多个订单号
BF.MADD ticket_orders 2023061008796 2023061008797 2023061008798
1) (integer) 1
2) (integer) 1
3) (integer) 1
以上的语句是将已经订好的车票订单号存储到Bloom Filter中,包括一次存储单个和一次存储多个。
3.4 判断火车票订单Id是否存在
# BF.EXISTS {key} {value} ,存在的话返回 1,不存在返回 0
BF.EXISTS ticket_orders 2023061008795
(integer) 1
# 批量判断多个值是否存在于布隆过滤器,语句如下:
BF.MEXISTS ticket_orders 2023061008796 2023061008797 2023061008798
1) (integer) 0
2) (integer) 1
3) (integer) 0
BF.EXISTS 判断一个元素是否存在于 Bloom Filter中,返回值 = 1 表示存在,返回值 = 0 表示不存在。可以一次性判断单个元素,或者一次性判断多个元素。
3.5 Review已建的布隆过滤器列表
# 使用 BF.INFO {key} 语法查看
BF.INFO ticket_orders
1) Capacity
2) (integer) 1000000
3) Size
4) (integer) 3
5) Number of filters
6) (integer) 1
7) Number of items inserted
8) (integer) 3
9) Expansion rate
10) (integer) 2
返回值解析:
Capacity:预设容量,我们前面设置了1000000。
Size:实际占用情况,我们前面设置了3个值:2023061008796、 2023061008797、 2023061008798。
Number of filters:过滤器的层数。
Number of items inserted:实际已插入的元素数量。
Expansion rate:子过滤器扩容的系数,咱们前面创建的时候未设值,所以这边是默认 2。
综上,我们通过 BF.RESERVE、BF.ADD、BF.EXISTS、BF.INFO 等几个指令就能实现布隆过滤器的建设,避免缓存穿透的情况发生。
因为你查询缓存的时候,必然你先到Bloom Filter中先过滤一次,这样就不会因为无效的key把缓存打穿。
4 程序实现说明
Spring Boot版本: 2.5.x。
4.1 添加 Redission Maven 依赖
如果实际情况可以使用更高版本
org.redisson
redisson-spring-boot-starter
3.17.1
4.2 Spring boot Yaml中的 Redission 配置
spring:
application:
name: redission
redis:
cluster:
nodeAddresses: [
"redis://127.0.0.1:8000",
"redis://127.0.0.1:8001",
"redis://127.0.0.1:8002",
"redis://127.0.0.1:8003",
"redis://127.0.0.1:8004",
"redis://127.0.0.1:8005"
]
password: ********
single:
address: "redis://127.0.0.1:6379"
database: 6
4.3 创建布隆过滤器相关
@Service
public class BloomFilterService {
@Autowired
private RedissonClient redissonClient;
/**
* 创建布隆过滤器
* @param filterKey 过滤器名称,等同上面的key
* @param expectedCapacity 预计元素容量,等同于上面的capacity
* @param falseRate 允许的误判率,等同于上面的error_rate
* @param
* @return
*/
public RBloomFilter create(String filterKey, long expectedCapacity, double falseRate) {
// 集群模式
RClusteredBloomFilter bloomFilter = redissonClient.getClusteredBloomFilter(filterKey);
// 以下是单实例模式
// RBloomFilter bloomFilter = redissonClient.getBloomFilter(filterKey);
bloomFilter.tryInit(expectedCapacity, falseRate);
return bloomFilter;
}
}
4.4 测试实现
@Autowired
private BloomFilterService bloomFilterService;
@Test
public void testBloomFilter() {
// 预计元素容量 1000000
long expectedCapacity = 1000000L;
// 错误率
double falseRate = 0.01;
RBloomFilter bloomFilter = bloomFilterService.create("ticket_orders", expectedCapacity, falseRate);
// 元素增加测试并输出统计
for (long idx = 0; idx
5 总结
本篇介绍了布隆过滤器的几种实现场景。
并以火车票订单信息查询为案例进行说明,如何使用布隆过滤器避免缓存穿透,避免被恶意攻击。
服务器托管,北京服务器托管,服务器租用 http://www.fwqtg.net
机房租用,北京机房租用,IDC机房托管, http://www.fwqtg.net
1.File Dropper 支持最大5G文件。 地址:http://www.filedropper.com/ 2.YouShare 地址:http://www.youshare.com/ 3.Gazup 可将文件同时上传到多个共享空间(推荐)。 地址:htt…