SpringBoot整合Redis开发-Redis生产环境查找无过期时间的key-《Java笔记》

admin 2025-10-19 05:19:40 编程 来源:ZONE.CI 全球网 0 阅读模式

    Java Redis在项目中,Redis 不应该被当作传统数据库来使用;储存大量没有过期时间的数据。如果储存大量无过期时间,而且无效的key的话;再加上 Redis 本身的过期策略没有被正确设置,就会大量占用内存。这样就会导致再多的内存资源也不够用。最近在项目中,就遇到这样的情况。情况大致是这样,项目中采用 Redis 二级存储(自己造的一个概念)。大概的意思就是先使用 UUID 生成一个 uuid 作为 value;这个 uuid 作为一个版本 id;存到缓存 key 为 ACL_CACHE_VERSION_KEY 中,即

    1. SET ACL_CACHE_VERSION_KEY uuid

    然后在不 uuid 作为另外一个key的一部分。即 ACLUSER + uuid,比如 uuid 的值为 26a26b84-578d-40bf-ab15-aeb188a56393,则key 为ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393,缓存到 key 的数据为

    1. HMSET ACL_USER_26a26b84-578d-40bf-ab15-aeb1 id1 12345 id2 45678

    因为 ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393 的是否过期是通过程序中生成新版本的 uuid,存储新的用户权限数据后;在程序中删除。因为程序的不健壮,导致有大量过期的版本没有及时删除。经过长年的积累导致 Redis 存在大量这些无效版本的 key。在测试环境中,可以使用 keys 命令,模糊查询到需要的 key,但这个操作只适合在测试环境中使用,不适合在生产环境中使用,原因是 Redis 是单线程运行的,当 Redis 中的数据量很大时,由于此操作会遍历所有数据,并将结果一次性全部返回,执行时间会比较长,从而导致后续操作等待,直接影响系统的正常运行。解决的办法是使用scan命令:

    1. scan cursor [MATCH pattern] [COUNT count]
    • cursor:表示游标,从 0 开始,此命令执行完后会返回一个新的 cursor值。如果cursor!=”0”,则表示还有 key 未返回,需要再调用 scan,并使用此新的 cursor 值,来获取下一批 key;如果cursor=="0",则表示遍历结束。
    • pattern:表示模糊匹配的样式
    • count:表示一批最多返回多少条记录,默认为10

    集群环境下使用 jedis 的代码实现

    1. import java.util.HashSet;
    2. import java.util.Set;
    3. import redis.clients.jedis.HostAndPort;
    4. import redis.clients.jedis.JedisCluster;
    5. import redis.clients.jedis.JedisPoolConfig;
    6. import redis.clients.jedis.ScanParams;
    7. import redis.clients.jedis.ScanResult;
    8. public class RedisTester {
    9. public static JedisCluster getJedisCluster() {
    10. JedisPoolConfig config = new JedisPoolConfig();
    11. config = new JedisPoolConfig();
    12. config.setMaxTotal(60000);// 设置最大连接数
    13. config.setMaxIdle(1000); // 设置最大空闲数
    14. config.setMaxWaitMillis(3000);// 设置超时时间
    15. config.setTestOnBorrow(true);
    16. // 集群结点
    17. Set<HostAndPort> jedisClusterNode = new HashSet<HostAndPort>();
    18. jedisClusterNode.add(new HostAndPort("yun-1.cacheyum.com", 6379));
    19. jedisClusterNode.add(new HostAndPort("yun-2.cacheyum.com", 6379));
    20. jedisClusterNode.add(new HostAndPort("yun-3.cacheyum.com", 6379));
    21. jedisClusterNode.add(new HostAndPort("yun-4.cacheyum.com", 6379));
    22. jedisClusterNode.add(new HostAndPort("yun-5.cacheyum.com", 6379));
    23. jedisClusterNode.add(new HostAndPort("yun-6.cacheyum.com", 6379));
    24. JedisCluster jc = new JedisCluster(jedisClusterNode, 1000, 1000, 1000, "admin321", config);
    25. return jc;
    26. }
    27. public static void scanCluster() {
    28. JedisCluster redis = getJedisCluster();
    29. redis.getClusterNodes().values().stream().forEach(pool -> {
    30. boolean done = false;
    31. String cur = "0";
    32. try (Jedis jedisNode = pool.getResource()) {
    33. while (!done) {
    34. ScanParams scanParams = new ScanParams();
    35. scanParams.match(" ACL_USER_*");
    36. scanParams.count(10);
    37. ScanResult<String> resp = jedisNode.scan(cur, scanParams);
    38. for (String result : resp.getResult()) {
    39. System.out.println("key: " + result);
    40. }
    41. cur = resp.getStringCursor();
    42. System.out.println("cursor: " + cur);
    43. if (cur.equals("0")) {
    44. done = true;
    45. }
    46. }
    47. }
    48. });
    49. }
    50. public static void main(String[] args) {
    51. scanCluster();
    52. }
    53. }

    单机情况下 jedis 代码实现

    1. import java.util.HashSet;
    2. import java.util.Set;
    3. import redis.clients.jedis.HostAndPort;
    4. import redis.clients.jedis.Jedis;
    5. import redis.clients.jedis.JedisPoolConfig;
    6. import redis.clients.jedis.ScanParams;
    7. import redis.clients.jedis.ScanResult;
    8. public class RedisTester {
    9. public static Jedis getAloneRedis() {
    10. Jedis jedis = new Jedis("127.0.0.1", 6379);
    11. System.out.println("connect successfully");
    12. jedis.auth("admin321");
    13. return jedis;
    14. }
    15. public void scanAlone() {
    16. Jedis jedis = getAloneRedis();
    17. String cursor = "0";
    18. do {
    19. ScanParams scanParams = new ScanParams();
    20. scanParams.match("ACL_USER_*");
    21. scanParams.count(10);
    22. ScanResult<String> sr = jedis.scan(cursor, scanParams);
    23. List<String> resultList = sr.getResult();
    24. for (String result : resultList) {
    25. System.out.println("key: " + result);
    26. }
    27. cursor = sr.getStringCursor();
    28. System.out.println("cursor: " + cursor);
    29. } while (!cursor.equals("0"));
    30. }
    31. public static void main(String[] args) {
    32. getAloneRedis();
    33. }
    34. }

    使用以下代码就可以找到那些版本的 uuid 是无效的。找到后,再调用 del 指令删除;或者为了更加保险,调用 expire 加个过期时间。让 key 在某个时间内失效也可以。

    以太坊cppgolang区别 编程

    以太坊cppgolang区别

    以太坊是一种去中心化的开源平台,它采用智能合约技术,旨在构建和运行不受干扰的分布式应用程序。作为目前最受欢迎的区块链平台之一,以太坊提供了多种编程语言的支持,其
    progolang 编程

    progolang

    Go语言(Golang)是由Google开发的一门静态类型编程语言。作为一名专业的Golang开发者,我深知这门语言的优势和特点。在本文中,我将介绍Golang
    golangn个发送者 编程

    golangn个发送者

    Golang是一种开源的编程语言,由Google团队开发,旨在提高程序的并发性和简化软件开发过程。在Go语言中,有时需要向多个接收者发送信息。本文将介绍如何在G
    golang技能图谱 编程

    golang技能图谱

    从互联网行业的快速发展到人工智能技术的日益成熟,各种编程语言也应运而生。而在这众多的编程语言中,Golang(即Go)作为一门强大且高效的开发语言备受关注。Go
    评论:0   参与:  6