redis生产环境如何有效查找哪些无过期时间的key
在项目中,Redis 不应该被当作传统数据库来使用;储存大量没有过期时间的数据。如果储存大量无过期时间,而且无效的key的话;再加上 Redis 本身的过期策略没有被正确设置,就会大量占用内存。这样就会导致再多的内存资源也不够用。最近在项目中,就遇到这样的情况。
情况大致是这样,项目中采用 Redis 二级存储(自己造的一个概念)。大概的意思就是先使用 UUID 生成一个 uuid 作为 value;这个 uuid 作为一个版本 id;存到缓存 key 为 ACL_CACHE_VERSION_KEY 中,即 SET ACL_CACHE_VERSION_KEY uuid
然后在不 uuid 作为另外一个key的一部分。即 ACL_USER_ + uuid,比如 uuid 的值为 26a26b84-578d-40bf-ab15-aeb188a56393,则key 为ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393,缓存到 key 的数据为 HMSET ACL_USER_26a26b84-578d-40bf-ab15-aeb1 id1 12345 id2 45678
因为 ACL_USER_26a26b84-578d-40bf-ab15-aeb188a56393 的是否过期是通过程序中生成新版本的 uuid,存储新的用户权限数据后;在程序中删除。因为程序的不健壮,导致有大量过期的版本没有及时删除。经过长年的积累导致 Redis 存在大量这些无效版本的 key。
在测试环境中,可以使用 keys 命令,模糊查询到需要的 key,但这个操作只适合在测试环境中使用,不适合在生产环境中使用,原因是 Redis 是单线程运行的,当 Redis 中的数据量很大时,由于此操作会遍历所有数据,并将结果一次性全部返回,执行时间会比较长,从而导致后续操作等待,直接影响系统的正常运行。解决的办法是使用scan命令: scan cursor [MATCH pattern] [COUNT count]cursor:表示游标,从 0 开始,此命令执行完后会返回一个新的 cursor值。如果cursor!="0",则表示还有 key 未返回,需要再调用 scan,并使用此新的 cursor 值,来获取下一批 key;如果cursor=="0",则表示遍历结束。 pattern:表示模糊匹配的样式 count:表示一批最多返回多少条记录,默认为10
集群环境下使用 jedis 的代码实现 import java.util.HashSet; import java.util.Set; import redis.clients.jedis.HostAndPort; import redis.clients.jedis.JedisCluster; import redis.clients.jedis.JedisPoolConfig; import redis.clients.jedis.ScanParams; import redis.clients.jedis.ScanResult; public class RedisTester { public static JedisCluster getJedisCluster() { JedisPoolConfig config = new JedisPoolConfig(); config = new JedisPoolConfig(); config.setMaxTotal(60000);// 设置最大连接数 config.setMaxIdle(1000); // 设置最大空闲数 config.setMaxWaitMillis(3000);// 设置超时时间 config.setTestOnBorrow(true); // 集群结点 Set jedisClusterNode = new HashSet(); jedisClusterNode.add(new HostAndPort("yun-1.cacheyum.com", 6379)); jedisClusterNode.add(new HostAndPort("yun-2.cacheyum.com", 6379)); jedisClusterNode.add(new HostAndPort("yun-3.cacheyum.com", 6379)); jedisClusterNode.add(new HostAndPort("yun-4.cacheyum.com", 6379)); jedisClusterNode.add(new HostAndPort("yun-5.cacheyum.com", 6379)); jedisClusterNode.add(new HostAndPort("yun-6.cacheyum.com", 6379)); JedisCluster jc = new JedisCluster(jedisClusterNode, 1000, 1000, 1000, "admin321", config); return jc; } public static void scanCluster() { JedisCluster redis = getJedisCluster(); redis.getClusterNodes().values().stream().forEach(pool -> { boolean done = false; String cur = "0"; try (Jedis jedisNode = pool.getResource()) { while (!done) { ScanParams scanParams = new ScanParams(); scanParams.match(" ACL_USER_*"); scanParams.count(10); ScanResult resp = jedisNode.scan(cur, scanParams); for (String result : resp.getResult()) { System.out.println("key: " + result); } cur = resp.getStringCursor(); System.out.println("cursor: " + cur); if (cur.equals("0")) { done = true; } } } }); } public static void main(String[] args) { scanCluster(); } }
单机情况下 jedis 代码实现 import java.util.HashSet; import java.util.Set; import redis.clients.jedis.HostAndPort; import redis.clients.jedis.Jedis; import redis.clients.jedis.JedisPoolConfig; import redis.clients.jedis.ScanParams; import redis.clients.jedis.ScanResult; public class RedisTester { public static Jedis getAloneRedis() { Jedis jedis = new Jedis("127.0.0.1", 6379); System.out.println("connect successfully"); jedis.auth("admin321"); return jedis; } public void scanAlone() { Jedis jedis = getAloneRedis(); String cursor = "0"; do { ScanParams scanParams = new ScanParams(); scanParams.match("ACL_USER_*"); scanParams.count(10); ScanResult sr = jedis.scan(cursor, scanParams); List resultList = sr.getResult(); for (String result : resultList) { System.out.println("key: " + result); } cursor = sr.getStringCursor(); System.out.println("cursor: " + cursor); } while (!cursor.equals("0")); } public static void main(String[] args) { getAloneRedis(); } }
使用以下代码就可以找到那些版本的 uuid 是无效的。找到后,再调用 del 指令删除;或者为了更加保险,调用 expire 加个过期时间。让 key 在某个时间内失效也可以。
梁汝波接棒张一鸣一年,首谈字节跳动公司使命36氪获悉,3月25日,在字节跳动内部10周年年会上,字节跳动CEO联合创始人梁汝波首次谈到公司使命激发创造,丰富生活,称使命是公司前进的动力。梁汝波认为,公司在践行使命的过程中需
对话前曹操出行董事长刘金良操盘新公司,这次不抢滴滴美团的生意去年年底,从曹操出行卸任法人后,刘金良又悄悄开始了自己新一轮的内部创业。这次的新业务叫幸福千万家,公司总部落在重庆。36氪了解到,新业务里,吉利集团占股比例高达60。虽然听起来像是
西门子PID之FB41剑指工控微信技术群,很多人都在问PID的复杂的微积分算法如何形成程序的?我在这里把STEP7里FB41源代码和注释给大家贴出来,让大家学习一下,FB41是积分PID。另外如果大家习
互联网巨头纷纷入局制造业,数字化转型该何去何从今年明显是个动荡的年份,疫情对世界经济的打击持续体现局部冲突,引发国际能源价格不稳,各国之间贸易受阻。那么站在2022年,现在这个时间节点上,未来10年还有哪个大行业是有红利的哪个
数字藏品(NFT)与加密货币数字货币对比数字藏品(NFTNonFungibleToken)定义软件开发者在区块链系统上面根据一定公认的标准协议合约所发行的非同质化数字通证,其特性是独一无二不可复制不可分割具有专属所有权真
特斯联将深度参与迪拜后世博特区智慧城市建设中证网讯(记者董添)3月24日,记者从特斯联获悉,公司利用AIoT(人工智能物联网)技术深度参与迪拜世博会场馆的搭建工作,帮助迪拜世博会营造未来城市生活体验。据公司介绍,迪拜世博会
力压蚂蚁和马斯克,全球白手起家最大独角兽诞生,老板仅39岁我国白手起家的富豪榜首,既不是香港首富李嘉诚,也不是台湾经商之王的王永庆,甚至都不是电商领导者马云,而是字节跳动的张一鸣!3月24日,胡润研究院发布了2022胡润全球白手起家U40
人工智能每日快报1。湖南省智能网联汽车产业十四五发展规划(20212025年)2。中国信通院正式启动MEC边缘计算领航者计划3。英伟达宣布推出OmniverseCloud套件云服务4。Lumina
华为P50Pro老用户亲身谈和iPhone13同期用,信号差距大么?老有人好奇的问我你都有iPhone13Pro了,咋又买了个华为P50Pro呢?话里话外的意思是都有了款主力机,为啥还要买一款?实际上,我是先买的华为P50Pro,后来又入了苹果。很
工业富联多个新能源车产品将于2023年量产工业富联多个新能源车产品将于2023年量产财联社3月23日电,工业富联高管23日上午在其年报业绩线上媒体交流会上透露,工业富联从汽车轻量化省电化以及智能化需求布局新能源汽车领域,重
从跨境电商金融服务需求之变看市场之变伴随跨境电商的发展,跨境金融服务正从单一走向多维,迈向生态化场景。亿邦智库日前发布的2021跨境电商金融服务报告指出,跨境金融已经从跨境电商收款收单等与支付相关的基础金融服务,向供