详解如何清理Redis内存碎片

2023-04-19 05:34

短信预约 -IT技能 免费直播动态提醒

Redis 释放的内存空间可能并不是连续的，那么，这些不连续的内存空间很有可能处于一种闲置的状态。这就会导致一个问题：虽然有空闲空间，Redis 却无法用来保存数据，不仅会减少 Redis 能够实际保存的数据量，还会降低 Redis 运行机器的成本回报率。

什么是Redis内存碎片？

操作系统的剩余空间总量足够，但申请一块N字节连续地址的空间时，剩余内存空间中没有大小为N字节的连续空间，那么这些剩余内存空间中，小于N字节的连续内存空间就是内存碎片。

Redis内存碎片是如何形成的？

内存碎片形成有内部原因和外部原因：

内部原因：内存分配器的分配策略决定操作系统无法做到“按需分配”。
- Redis使用libc、jemalloc、tcmalloc多种内存分配器来分配内存，默认使用jemalloc。
- 内存分配器是按照固定大小来分配内存空间，不是完全按照应用程序申请的内存大小来分配。
- 以jemalloc为例，是按照一系列固定的大小划分内存空间，例如8字节、16字节、32字节、...、2KB、4KB等。当程序申请的内存最接近某个固定值时，jemalloc就会给它分配相应大小的空间。
外部原因：键值对大小不一样，并且键值对可以被修改和删除。
- Redis申请内存空间分配时，对于大小不一的内存空间需求，内存分配器按照固定大小分配内存空间，分配的内存空间一般都会比申请的内存空间大一些，这会产生一定的内存碎片。
- 键值对会被修改和删除，会导致空间的扩容和释放。

如何判断Redis是否有内存碎片？

DAS通过Redis提供的INFO命令，查询内存使用的详细信息，命令如下：

INFO memory
# Memory
used_memory:350458970752
used_memory_human:326.39G
used_memory_RSS:349066919936
used_memory_rss_human:325.09G
…
mem_fragmentation_ratio:1.00

used_memory：表示Redis为了保存数据实际申请使用的内存空间。
used_memory_rss：表示操作系统实际分配给Redis的物理内存空间，其中包含了内存空间碎片。
mem_fragmentation_ratio：表示Redis当前的内存碎片率。计算公式：mem_fragmentation_ratio=used_memory_rss/used_memory
- mem_fragmentation_ratio大于等于1但小于等于1.5，这种情况是合理的。
- mem_fragmentation_ratio大于1.5，表明内存碎片率已经超过了50%。

如何清理内存碎片？

一个“简单粗暴”的方法是重启Redis实例。但是这个方法会带来两个后果：

如果Redis中的数据没有持久化，数据会丢失；
即使Redis数据持久化了，还需要通过AOF或者RDB来恢复，恢复时长取决于AOF或RDB的大小。并且如果只有一个Redis实例，恢复阶段无法提供服务。

那有没有更好的方法呢？有的，从4.0-RC3版本以后，Redis自身提供了一种内存碎片自动清理的方法。

内存碎片自动清理

内存碎片清理，简单来说，就是“搬家让位，合并空间”。

当有数据把一块连续的内存空间分割成好几块不连续的空间时，操作系统会把数据拷贝到另外，而原来不连续的内存空间就变成连续的内存空间了。

但是碎片清理是有代价的。操作系统需要把多份数据拷贝到新位置，把原有空间释放出来，这会带来时间开销。另外在数据拷贝时，会阻塞Redis，降低性能。

如何缓解这个问题？

Redis专门为自动内存碎片清理机制提供参数设置。可以通过设置参数，来控制碎片清理的开始和结束时机，以及占用的CPU比例，从而减少碎片清理对Redis请求处理的性能影响。

首先，开启自动内存碎片清理：

config set activedefrag yes
然后，设置触发内存清理的条件：

active-defrag-ignore-bytes 100mb：表示内存碎片的字节数达到100MB时，开始清理；
active-defrag-threshold-lower 10：表示内存碎片空间占操作系统分配给Redis的总空间比例达到10%时，开始清理。

最后，控制清理操作占用CPU时间比例的上、下限：

active-defrag-cycle-min 25：表示自动清理过程所用CPU时间的比例不低于25%，保证清理能正常开展；
active-defrag-cycle-max 75：表示自动清理过程所用CPU时间的比例不高于75%，一旦超过，就停止清理，从而避免在清理时，大量的内存拷贝阻塞Redis，导致响应延迟升高。