redis 无占用 两种方式 清除大批量数据 lua脚本

这篇具有很好参考价值的文章主要介绍了redis 无占用 两种方式 清除大批量数据 lua脚本。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

redis存储了很多无用的key,占用了大量内存,需要清除

第一种 (颗粒度较大)

lua脚本,删除某些规则的key,输入删除的key,返回删除的符合规则的key的数量
弊端:颗粒度比较大,发送一个lua脚本去执行,会占用较多时间,堵塞其他redis命令

local function scan(key)
	local cursor = 0
	local keynum = 0
	repeat
		local res = redis.call("scan", cursor, "match", key, "COUNT", ARGV[1])
		if(res ~= nil and #res >= 0) then
			redis.replicate_commands()
			cursor = tonumber(res[1])
			local ks = res[2]
			local keynum1 = #ks
			keynum = keynum + keynum1
			for i=1,keynum1,1 do
				local k = tostring(ks[i])
				redis.call("del", k)
			end
		end
	until(cursor <= 0)
	return keynum
end

local a = #KEYS
local b = 1 
local total  = 0
while(b <= a)
do 
	total = total + scan(KEYS[b])
	b=b+1
end

return total

java代码

String delLua  = "local function scan(key)\n" +
				"\tlocal cursor = 0\n" +
				"\tlocal keynum = 0\n" +
				"\trepeat\n" +
				"\t\tlocal res = redis.call(\"scan\", cursor, \"match\", key, \"COUNT\", ARGV[1])\n" +
				"\t\tif(res ~= nil and #res >= 0) then\n" +
				"\t\t\tredis.replicate_commands()\n" +
				"\t\t\tcursor = tonumber(res[1])\n" +
				"\t\t\tlocal ks = res[2]\n" +
				"\t\t\tlocal keynum1 = #ks\n" +
				"\t\t\tkeynum = keynum + keynum1\n" +
				"\t\t\tfor i=1,keynum1,1 do\n" +
				"\t\t\t\tlocal k = tostring(ks[i])\n" +
				"\t\t\t\tredis.call(\"del\", k)\n" +
				"\t\t\tend\n" +
				"\t\tend\n" +
				"\tuntil(cursor <= 0)\n" +
				"\treturn keynum\n" +
				"end\n" +
				"\n" +
				"local a = #KEYS\n" +
				"local b = 1 \n" +
				"local total  = 0\n" +
				"while(b <= a)\n" +
				"do \n" +
				"\ttotal = total + scan(KEYS[b])\n" +
				"\tb=b+1\n" +
				"end\n" +
				"\n" +
				"return total";
// 指定 lua 脚本,并且指定返回值类型
DefaultRedisScript<Long> redisScript = new DefaultRedisScript<>(delLua, Long.class);
// 参数一:redisScript,参数二:key列表,参数三:arg(可多个)
long start = System.currentTimeMillis();
Long result = (Long) redisTemplate.execute(redisScript, Collections.singletonList(scenicId + ":*"), 20000);
long end = System.currentTimeMillis();

这样直接删除,因为规则有很多个,需要循环删除,每一次调用脚本都需要占用redis一分多时间,

第二种(切割所有key,每次返回指定数量,然后过滤删除)

lua脚本文章来源地址https://www.toymoban.com/news/detail-861151.html

local cursor = ARGV[1]
local result = redis.call('SCAN', cursor,  'COUNT', 10000)
return {result[1], result[2]}
// Lua脚本用于SCAN操作,获取指定数量的key
String luaScript = "local cursor = ARGV[1]\n" +
						"local result = redis.call('SCAN', cursor,  'COUNT', 10000)\n" +
						"return {result[1], result[2]}";

// 创建Redis脚本对象
DefaultRedisScript<List> defaultRedisScript = new DefaultRedisScript<>(luaScript, List.class);
defaultRedisScript.setResultType(List.class);

Integer cursorInt = 0;
String newCursor = cursorInt.toString(); // 初始游标

// 参数:cursor初始为0,match为""表示匹配所有key,count为1000
List<Object> keys = stringRedisTemplate.execute(defaultRedisScript, Collections.emptyList(), newCursor);
// 解析结果
newCursor = keys.get(0).toString(); // 新的cursor
List<String> keyList = (List<String>)keys.get(1);
//对获取出来的key进行规则筛选,查看那些可以直接删除
//过滤逻辑 和 删除

到了这里,关于redis 无占用 两种方式 清除大批量数据 lua脚本的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包赞助服务器费用

相关文章

  • MySQL---使用索引优化、大批量插入数据优化

    MySQL---使用索引优化、大批量插入数据优化

    1. 使用索引优化 索引是数据库优化最常用也是最重要的手段之一 , 通过索引通常可以帮助用户解决大多数的 MySQL 的性能优化问题: 1.1 避免索引失效应用-全值匹配 该情况下,索引生效,执行效率高。 1.2 避免索引失效应用-最左前缀法则 1.3 避免索引失效应用-其他匹配原则

    2024年02月07日
    浏览(11)
  • Python 自动获取大批量excel数据并填写到网页表单(pandas;selenium)

    Python 自动获取大批量excel数据并填写到网页表单(pandas;selenium)

    自动获取大批量excel数据并填写到网页表单 部分网页获取下拉列表点击的方式有所差异 这个请根据网页源码自做选择 一定要学会使用IPDB调试工具 太好用了!!!! 可能需要pip update一下 看提示 很好解决 没有报错最好啦 Python真是太好用了 办公利器啊!!!!

    2024年02月12日
    浏览(14)
  • 大批量数据导出csv,平替导出excel性能优化解决方案封装工具类

            有些业务逻辑需要在导出非常大量的数据,几百甚至几千万的数据这个时候再导出excel来对于性能都不是很友好,这个时候就需要替换实现思路来解决这个问题。         本文章提供了两种解决的方案,也是两种从数据库中拿取数据的方式一种是原生的jdbc一种是使用

    2024年01月16日
    浏览(20)
  • 【sgTransfer】自定义组件:带有翻页、页码、分页器的穿梭框组件,支持大批量数据的穿梭显示。

    【sgTransfer】自定义组件:带有翻页、页码、分页器的穿梭框组件,支持大批量数据的穿梭显示。

      特性:   表格宽度可以自定义 翻页器显示控件可以自定义 列配置项可以设置显示字段列名称、宽度、字段名 可以配置搜索框提示文本,支持搜索过滤 穿梭框顶部标题可以自定义 左右箭头按钮文本可以设置

    2024年02月10日
    浏览(15)
  • 如何使用python快速将大批量图片合成为视频?

    如何使用python快速将大批量图片合成为视频?

    由于CSDN大批量导入图片容易出现乱序,本程序将支撑图片转为视频,便于用视频的方式展示文件内容。 由于图片名称复杂多样,为便于统一化处理,增强程序的通用性,使用改名程序可以降低手动调整的复杂度。 改名之后的效果: 注意此部分的图片大小仍需要手动修改或输

    2024年02月04日
    浏览(9)
  • cesium实现大批量POI点位聚合渲染优化方案

    cesium实现大批量POI点位聚合渲染优化方案

    cesium目前只提供了entityCluster这个聚合类,使打点聚合更方便快捷的实现,但是一般在真正做项目的时候,大家会经常碰到成千上万个甚至几十万个点位需要聚合打点,那这时候你如果还是用entity去实现的话,怕是要被用户按在地上疯狂摩擦,摩擦。。。😅 我们可以通过模拟

    2024年02月09日
    浏览(12)
  • 远程运维大批量IT设备?向日葵批量部署、分组授权与安全功能解析

    远程运维大批量IT设备?向日葵批量部署、分组授权与安全功能解析

    数字化转型的不断推进,给予了企业全方位的赋能,但任何发展都伴随着成本与代价,比如在数字化转型过程中企业内部办公与外部业务所需的不断增加的IT设备数量,就为日常的运维工作提出了更大的挑战。 针对企业面对海量IT设备时的运维难、效率低、容易出错等问题,

    2024年02月14日
    浏览(9)
  • 使用postman做接口测试传入大批量动态参数的方法

    使用postman做接口测试传入大批量动态参数的方法

    postman是一个非常好用的接口测试工具,而且功能也很强大,今天只简单说一下使用postman如何对一个接口传入大批量参数进行测试的方法。 以我测试的平台为例,我们的平台是做在线教育平台的,我模拟的场景是老师有一门课叫ABC,现在需要有1000个学生加入ABC这门课。我们不

    2024年01月23日
    浏览(12)
  • 记一次 OSS 大批量文件下载的实现 → bat脚本不好玩!

    记一次 OSS 大批量文件下载的实现 → bat脚本不好玩!

    一天夜里,侄女跟我哥聊天 侄女一脸期待的看着我哥:爸爸,你说妈妈和奶奶谁漂亮啊? 我哥不慌不忙的拿起一粒瓜子,轻声说道:为啥没有你啊? 侄女笑容渐起,似乎得到了她想要的回答,仍继续问道:那妈妈和奶奶还有我,谁漂亮? 我哥瞄了一眼侄女,又拿起一粒瓜子

    2024年02月05日
    浏览(9)
  • ZooKeeper+Kafka+ELK+Filebeat集群搭建实现大批量日志收集和展示

    ZooKeeper+Kafka+ELK+Filebeat集群搭建实现大批量日志收集和展示

    大致流程:将nginx 服务器(web-filebeat)的日志通过filebeat收集之后,存储到缓存服务器kafka,之后logstash到kafka服务器上取出相应日志,经过处理后写入到elasticsearch服务器并在kibana上展示。 一、集群环境准备 二、搭建zookeeper集群 前提条件:三台机器分别修改时区、关闭防火墙

    2024年02月04日
    浏览(13)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包