• Redis专题之4、第4篇：Redis新的3种数据类型

    4.1、Bitmaps：位操作字符串

    4.1.1、简介

    现代计算机使用二进制（位）作为信息的基本单位，1个字节等于8位，例如“abc”字符串是有3个字节组成，但实际在计算机内存储时将其使用二进制表示，“abc”分别对应的ASCII码是：97、98、99，对应的二进制分别是01100001、01100010、01100011，如下图

    合理地使用位操作能够有效地提高内存使用率和开发效率。

    Redis提供了Bitmaps这个“数据类型”可以实现对位的操作：

    • Bitmaps本身不是一种数据类型， 实际上它就是字符串（key-value） ， 但是它可以对字符串的位进行操作，字符串中每个字符对应1个字节，也就是8位，一个字符可以存储8个bit位信息。
    • Bitmaps单独提供了一套命令， 所以在Redis中使用Bitmaps和使用字符串的方法不太相同。 可以把Bitmaps想象成一个以位为单位的数组， 数组的每个单元只能存储0和1， 数组的下标在Bitmaps中叫做偏移量。

    4.1.2、常用命令

    setbit：设置某个偏移量的值（0或1）

    1. SETBIT key offset value

    设置offset偏移位的值为value，offset的值是从0开始的，n代表第n+1个bit位置的。

    offset 参数必须大于或等于 0 ，小于 2^32 (bit 映射被限制在 512 MB 之内)。

    value的值只能为0或1

    返回值：指定偏移量原来储存的位。

    redis> SETBIT bit 10086 1
(integer) 0

redis> GETBIT bit 10086
(integer) 1

redis> GETBIT bit 100   # bit 默认被初始化为 0
(integer) 0

    示例

    每个独立用户是否访问过网站存放在bitmaps中，将访问的用户记做1，没有访问的用户记做0，用户id作为offset。

    假设现在有20个用户，userid=1,6,11,15,19的用户对网站进行了访问，那么当前bitmaps初始化结果如图

    users:20220409这个bitmaps中表示2022-04-09这天独立访问的用户，如下

    127.0.0.1:6379> setbit users:20220409 1 1
(integer) 0
127.0.0.1:6379> setbit users:20220409 6 1
(integer) 0
127.0.0.1:6379> setbit users:20220409 11 1
(integer) 0
127.0.0.1:6379> setbit users:20220409 15 1
(integer) 0
127.0.0.1:6379> setbit users:20220409 19 1
(integer) 0

    getbit：获取某个偏移位的值

    1. GETBIT key offset

    获取key所对应的bitmaps中offset偏移位的值。

    返回值：0或者1

    示例

    127.0.0.1:6379> flushdb #清空db，方便测试
OK
127.0.0.1:6379> setbit users 1001 1 #设置偏移量1001的bit位的值为1
(integer) 0
127.0.0.1:6379> getbit users 1001 #获取偏移位1001的bit位的值
(integer) 1
127.0.0.1:6379> getbit users 1000 #获取偏移位1000的bit位的值，未设置，返回0
(integer) 0

    bitcount：统计bit位都为1的数量

    1. BITCOUNT key [start] [end]

    统计字符串被设置为1的bit数，一般情况下，给定的整个字符串都会被进行统计，通过指定额外的start或者end参数，可以让计数只在特定的位上进行，start 和 end 参数，都可以使用负数值：比如 -1 表示最后一个位，而 -2 表示倒数第二个位，以此类推。

    注意了：start、end是指bit组的字节的下标数，一个直接对应8个bit，所以[a,b]对应的offset范围是[8a,8b+7]

    127.0.0.1:6379> flushdb # 清空db，方便测试
OK
127.0.0.1:6379> setbit user 7 1 # 设置user这个bitmaps中偏移量为7的bit为值为1，也就是第8个bit位的值
(integer) 0
127.0.0.1:6379> setbit user 15 1 # 设置user这个bitmaps中偏移量为15的bit为值为1
(integer) 0
127.0.0.1:6379> setbit user 23 1 # 设置user这个bitmaps中偏移量为23的bit为值为1
(integer) 0
127.0.0.1:6379> bitcount user # 获取user这个bitmaps中1的数量
(integer) 3
127.0.0.1:6379> bitcount user 0 1 # 获取[0,1]这个字节内bit位上1的数量，也就是offset是[0,15]的位置上1的数量，所以是2个
(integer) 2
127.0.0.1:6379> bitcount user 0 0 # 获取[0,0]这个字节内bit位上1的数量，也就是offset是[0,7]的位置上1的数量，只有7这个位置，所以是1个
(integer) 1

    bittop：对一个多个bitmaps执行位操作

    1. BITOP operation destkey key [key ...]

    对一个或多个保存二进制位的字符串 key 进行位元操作，并将结果保存到 destkey 上。

    operation 可以是 AND 、 OR 、 NOT 、 XOR 这四种操作中的任意一种：

    • BITOP AND destkey key [key ...] ，对一个或多个 key 求逻辑并，并将结果保存到 destkey 。
    • BITOP OR destkey key [key ...] ，对一个或多个 key 求逻辑或，并将结果保存到 destkey 。
    • BITOP XOR destkey key [key ...] ，对一个或多个 key 求逻辑异或，并将结果保存到 destkey 。
    • BITOP NOT destkey key ，对给定 key 求逻辑非，并将结果保存到 destkey 。

    除了 NOT 操作之外，其他操作都可以接受一个或多个 key 作为输入。

    返回值：保存到 destkey 的字符串的长度，和输入 key 中最长的字符串长度相等。

    redis> SETBIT bits-1 0 1        # bits-1 = 1001
(integer) 0

redis> SETBIT bits-1 3 1
(integer) 0

redis> SETBIT bits-2 0 1        # bits-2 = 1011
(integer) 0

redis> SETBIT bits-2 1 1
(integer) 0

redis> SETBIT bits-2 3 1
(integer) 0

redis> BITOP AND and-result bits-1 bits-2
(integer) 1

redis> GETBIT and-result 0      # and-result = 1001
(integer) 1

redis> GETBIT and-result 1
(integer) 0

redis> GETBIT and-result 2
(integer) 0

redis> GETBIT and-result 3
(integer) 1

    4.1.3、bitmaps与set比较

    假设网站有 1 亿用户， 每天独立访问的用户有 5 千万， 如果每天用集合类型和 Bitmaps 分别存储活跃用户可以得到表：

    set 和 Bitmaps 存储一天活跃用户对比

    数据类型每个用户 id 占用空间需要存储的用户量全部内存量
    set集合 64 位 50000000 64 位 * 50000000 = 400MB
    Bitmaps 1位 100000000 1 位 * 100000000 = 12.5MB

    很明显， 这种情况下使用 Bitmaps 能节省很多的内存空间， 尤其是随着时间推移节省的内存还是非常可观的。

    set 和 Bitmaps 存储独立用户空间对比

    数据类型一天一月一年
    set集合 400MB 12GB 144GB
    Bitmaps 12.5MB 375MB 4.5GB

    但 Bitmaps 并不是万金油， 假如该网站每天的独立访问用户很少， 例如只有 10 万（大量的僵尸用户） ， 那么两者的对比如下表所示， 很显然， 这时候使用 Bitmaps 就不太合适了， 因为基本上大部分位都是 0。

    数据类型每个 userid 占用空间需要存储的用户量全部内存量
    集合 64 位 100000 64 位 * 100000 = 800KB
    Bitmaps 1 位 100000000 1 位 * 100000000 = 12.5MB

    4.2、HyperLoglog

    4.2.1、简介

    在工作当中，我们经常会遇到与统计相关的功能需求，比如统计网站 PV（PageView 页面访问量），可以使用 Redis 的 incr、incrby 轻松实现。但像 UV（UniqueVisitor 独立访客）、独立 IP 数、搜索记录数等需要去重和计数的问题如何解决？这种求集合中不重复元素个数的问题称为基数问题。

    解决基数问题有很多种方案：

    数据存储在 MySQL 表中，使用 distinct count 计算不重复个数。

    使用 Redis 提供的 hash、set、bitmaps 等数据结构来处理。

    以上的方案结果精确，但随着数据不断增加，导致占用空间越来越大，对于非常大的数据集是不切实际的。能否能够降低一定的精度来平衡存储空间？Redis 推出了 HyperLogLog。

    Redis HyperLogLog 是用来做基数统计的算法，HyperLogLog 的优点是：在输入元素的数量或者体积非常非常大时，计算基数所需的空间总是固定的、并且是很小的。

    在 Redis 里面，每个 HyperLogLog 键只需要花费 12 KB 内存，就可以计算接近 2^64 个不同元素的基数。这和计算基数时，元素越多耗费内存就越多的集合形成鲜明对比。

    但是，因为 HyperLogLog 只会根据输入元素来计算基数，而不会储存输入元素本身，所以 HyperLogLog 不能像集合那样，返回输入的各个元素。

    什么是基数？

    比如数据集 {1, 3, 5, 7, 5, 7, 8}，那么这个数据集的基数集为 {1, 3, 5 ,7, 8}，基数 (不重复元素) 为 5。 基数估计就是在误差可接受的范围内，快速计算基数。

    4.2.2、命令

    pfadd：添加多个元素

    1. pfadd key element [element ...]

    向HyperLoglog类型的key中添加一个或者多个元素。

    添加一个或者多个元素到key对应的集合中。

    返回值：

    1：添加成功

    0：添加失败

    127.0.0.1:6379> flushdb # 清空db方便测试
OK
127.0.0.1:6379> pfadd program java php c c++ # program中添加4个元素[java,php,c,c++]，添加成功发，返回1
(integer) 1
127.0.0.1:6379> pfadd program java # 再次添加java，由于已经存在，所以添加失败，返回0
(integer) 0
127.0.0.1:6379> pfadd program java js # 再次添加2个元素，java已经存在了，但是js不存在，添加成功，返回1
(integer) 1

    pfcount：获取多个HLL合并后元素的个数

    1. pfcount key1 key2 ...

    统计一个或者多个key去重后元素的数量。

    示例

    127.0.0.1:6379> flushdb # 清空db方便测试
OK
127.0.0.1:6379> pfadd uv1 a b c d e #uv1中5个元素：[a,b,c,d,e]
(integer) 1
127.0.0.1:6379> pfcount uv1 #uv1中数量为5
(integer) 5
127.0.0.1:6379> pfadd uv2 b c d e f #uv2中5个元素：[b,c,d,e,f]
(integer) 1
127.0.0.1:6379> pfcount uv2 #uv2中数量为5
(integer) 5
127.0.0.1:6379> pfcount uv1 uv2 # 获取uv1和uv2去重之后数量合集：[a,b,c,d,e,f]，数量为5
(integer) 5

    pfmerge：将多个HLL合并后元素放入另外一个HLL

    1. pfmerge destkey sourcekey [sourcekey ...]

    将多个sourcekey合并后放到destkey中。

    示例

    127.0.0.1:6379> flushdb # 清空db方便测试
OK
127.0.0.1:6379> pfadd uv1 a b c d e #uv1中5个元素：[a,b,c,d,e]
(integer) 1
127.0.0.1:6379> pfcount uv1 #uv1中数量为5
(integer) 5
127.0.0.1:6379> pfadd uv2 b c d e f #uv2中5个元素：[b,c,d,e,f]
(integer) 1
127.0.0.1:6379> pfcount uv2 #uv2中数量为5
(integer) 5
127.0.0.1:6379> pfmerge uv_dest uv1 uv2 #将uv1和uv2合并后放入uv_dest
OK
127.0.0.1:6379> pfcount uv_dest #uv_dest元素个数为6
(integer) 6

    4.3、Geographic

    4.3.1、简介

    Reids3.2 中增加了对GEO类型的支持，GEO（Geographic），地理信息的缩写。

    该类型，就是元素的 2 维坐标，在地图上就是经纬度，redis基于该类型，提供了经纬度设置、查询、范围查询、距离查询，经纬度Hash等常见操作。

    4.3.2、命令

    geoadd：添加多个位置的经纬度

    1. geoadd key longitude latitude member [longitude latitude member ...]

    longitude latitude member：经度 纬度 名称

    示例

    127.0.0.1:6379> flushdb #清空db，方便测试
OK
127.0.0.1:6379> geoadd china:city 121.47 31.23 shanghai #添加上海的经纬度
(integer) 1
127.0.0.1:6379> geoadd china:city 106.50 29.53 chongqing 114.05 22.52 shenzhen 116.38 39.90 beijing #添加重庆、深圳、北京 3 个城市的经纬度
(integer) 3
127.0.0.1:6379> type china:city #发现geo实际上使用zset类型存储的
zset
127.0.0.1:6379> zrange china:city 0 -1
1) "chongqing"
2) "shenzhen"
3) "shanghai"
4) "beijing"
127.0.0.1:6379> zrange china:city 0 -1 withscores
1) "chongqing"
2) "4026042091628984"
3) "shenzhen"
4) "4046432193584628"
5) "shanghai"
6) "4054803462927619"
7) "beijing"
8) "4069885332386336"

    两级无法直接添加，一般会下载城市数据，直接通过java程序一次性导入。

    有效的经纬度从-180度到180度，有效的维度从-85.05112878度到85.05112878度。

    当坐标位置超出指定范围时，该命令将会返回一个错误。

    已经添加的数据，是无法再次往里面添加的。

    geopos：获取多个位置的坐标值

    1. geopos key member [member ...]

    示例

    127.0.0.1:6379> flushdb #清空db，方便测试
OK
127.0.0.1:6379> geoadd china:city 121.47 31.23 shanghai #添加上海的经纬度
(integer) 1
127.0.0.1:6379> geoadd china:city 106.50 29.53 chongqing 114.05 22.52 shenzhen 116.38 39.90 beijing #添加重庆、深圳、北京 3 个城市的经纬度
(integer) 3
127.0.0.1:6379> geopos china:city wuhan beijing chongqing #获取武汉、北京、重庆 3个城市的坐标，由于没有添加武汉的数据，所以没有获取到，其他2个获取到了
1) (nil)
2) 1) "116.38000041246414185"
   2) "39.90000009167092543"
3) 1) "106.49999767541885376"
   2) "29.52999957900659211"

    geodist：获取两个位置的直线距离

    1. geodist key member1 member2 [m|km|ft|mi]

    单位：[m|km|ft|mi] -》[米|千米|英里|英尺]，默认为米

    示例

    127.0.0.1:6379> flushdb #清空db，方便测试
OK
127.0.0.1:6379> geoadd china:city 121.47 31.23 shanghai #添加上海的经纬度
(integer) 1
127.0.0.1:6379> geoadd china:city 106.50 29.53 chongqing 114.05 22.52 shenzhen 116.38 39.90 beijing #添加重庆、深圳、北京 3 个城市的经纬度
(integer) 3
127.0.0.1:6379> geodist china:city beijing chongqing km #获取北京到重庆的直线距离
"1462.9505"

    georadius：以给定的经纬度为中心，找出某一半径内的元素

    1. georadius key longitude latitude radius m|km|ft|mi

    单位：[m|km|ft|mi] -》[米|千米|英里|英尺]，默认为米

    示例

    127.0.0.1:6379> flushdb #清空db，方便测试
OK
127.0.0.1:6379> geoadd china:city 121.47 31.23 shanghai #添加上海的经纬度
(integer) 1
127.0.0.1:6379> geoadd china:city 106.50 29.53 chongqing 114.05 22.52 shenzhen 116.38 39.90 beijing #添加重庆、深圳、北京 3 个城市的经纬度
(integer) 3
127.0.0.1:6379> georadius china:city 110 30 1000 km #在china:city中检索：以经纬度(110,30)为中心，半径为1000km内的位置列表
1) "chongqing"
2) "shenzhen"
    来源：http://www.itsoku.com/course/15/251
  • 相关阅读:
    再见了亲爱的学生们，再见了敬爱的同事们，再见了信狮
    #if defined 和#ifdef的区别
    C# ASP.NET Core开发学生信息管理系统（二）
    modelsim与debussy联合的问题
    C#批量生成大数据量无重复随机数据的另类高效实现
    DataColumn.Caption属性应用到DataGridView.HeaderText的方法
    [转载]安装网银安全控件
    近期学习SQL Server，收藏的几个学习教程网址备忘
    asp.net根据域名查ip C#版
    asp.net 2.0教程 成员资格和角色管理
  • 原文地址：https://www.cnblogs.com/konglxblog/p/16198117.html
Copyright © 2020-2023  润新知