• 接口幂等性


    一、背景

    我们实际系统中有很多操作,是不管做多少次,都应该产生一样的效果或返回一样的结果。 例如:

    1. 前端重复提交选中的数据,应该后台只产生对应这个数据的一个反应结果。

    2. 我们发起一笔付款请求,应该只扣用户账户一次钱,当遇到网络重发或系统bug重发,也应该只扣一次钱;

    3. 发送消息,也应该只发一次,同样的短信发给用户,用户会哭的;

    4. 创建业务订单,一次业务请求只能创建一个,创建多个就会出大问题。

    等等很多重要的情况,这些逻辑都需要幂等的特性来支持。

    二、幂等性概念

      幂等性:就是用户对于同一操作发起的一次请求或者多次请求的结果是一致的,不会因为多次点击而产生了副作用。举个最简单的例子,那就是支付,用户购买商品使用约支付,支付扣款成功,但是返回结果的时候网络异常,此时钱已经扣了,用户再次点击按钮,此时会进行第二次扣款,返回结果成功,用户查询余额返发现多扣钱了,流水记录也变成了两条。

    三、什么情况下需要保证接口的幂等性

    在增删改查4个操作中,尤为注意就是增加或者修改

    3.1、查询操作

    查询对于结果是不会有改变的,查询一次和查询多次,在数据不变的情况下,查询结果是一样的。select是天然的幂等操作

    3.2、删除操作

    删除一次和多次删除都是把数据删除。(注意可能返回结果不一样,删除的数据不存在,返回0,删除的数据多条,返回结果多个,在不考虑返回结果的情况下,删除操作也是具有幂等性的)

    3.3、更新操作

    修改在大多场景下结果一样,但是如果是增量修改是需要保证幂等性的,如下例子:

    把表中id为XXX的记录的A字段值设置为1,这种操作不管执行多少次都是幂等的。 把表中id为XXX的记录的A字段值增加1,这种操作就不是幂等的。

    3.4、新增操作

    增加在重复提交的场景下会出现幂等性问题,如以上的支付问题

    四、保证接口的幂等性技术方案

    4.1、全局唯一ID

      如果使用全局唯一ID,就是根据业务的操作和内容生成一个全局ID,在执行操作前先根据这个全局唯一ID是否存在,来判断这个操作是否已经执行。如果不存在则把全局ID,存储到存储系统中,比如数据库、redis等。如果存在则表示该方法已经执行。

      从工程的角度来说,使用全局ID做幂等可以作为一个业务的基础的微服务存在,在很多的微服务中都会用到这样的服务,在每个微服务中都完成这样的功能,会存在工作量重复。另外打造一个高可靠的幂等服务还需要考虑很多问题,比如一台机器虽然把全局ID先写入了存储,但是在写入之后挂了,这就需要引入全局ID的超时机制。

      使用全局唯一ID是一个通用方案,可以支持插入、更新、删除业务操作。但是这个方案看起来很美但是实现起来比较麻烦,下面的方案适用于特定的场景,但是实现起来比较简单。

    4.2、去重表

      这种方法适用于在业务中有唯一标的插入场景中,比如在以上的支付场景中,如果一个订单只会支付一次,所以订单ID可以作为唯一标识。这时,我们就可以建一张去重表,并且把唯一标识作为唯一索引,在我们实现时,把创建支付单据和写入去去重表,放在一个事务中,如果重复创建,数据库会抛出唯一约束异常,操作就会回滚。

    4.3、插入或更新

      这种方法插入并且有唯一索引的情况,比如我们要关联商品品类,其中商品的ID和品类的ID可以构成唯一索引,并且在数据表中也增加了唯一索引。这时就可以使用InsertOrUpdate操作。在mysql数据库中如下:

    insert into goods_category (goods_id,category_id,create_time,update_time)
    values(#{goodsId},#{categoryId},now(),now())
    on DUPLICATE KEY UPDATE
    update_time=now()

    4.4、状态机控制

    这种方法适合在有状态机流转的情况下,比如就会订单的创建和付款,订单的付款肯定是在之前,这时我们可以通过在设计状态字段时,使用int类型,并且通过值类型的大小来做幂等,比如订单的创建为0,付款成功为100。付款失败为99

    在做状态机更新时,我们就这可以这样控制

    update `order` set status=#{status} where id=#{id} and status<#{status}

    4.5、token机制,防止页面重复提交

    • 业务要求:页面的数据只能被点击提交一次
    • 发生原因:由于重复点击或者网络重发,或者nginx重发等情况会导致数据被重复提交
    • 解决办法
      • 集群环境:采用token加redis(redis单线程的,处理需要排队)
      • 单JVM环境:采用token加redis或token加jvm内存
    • 处理流程
      • 使用token机制实现接口幂等性,通用性强的实现方法
    • token机制实现步骤:
      • 生成全局唯一的token,token放到redis或jvm内存,token会在页面跳转时获取.存放到pageScope中,支付请求提交先获取token
      • 提交后后台校验token,执行提交逻辑,提交成功同时删除token,生成新的token更新redis ,这样当第一次提交后token更新了,页面再次提交携带的token是已删除的token后台验证会失败不让提交
    • token特点: 要申请,一次有效性,可以限流

    注意: redis要用删除操作来判断token,删除成功代表token校验通过,如果用select+delete来校验token,存在并发问题,不建议使用

    4.6、悲观锁

    获取数据的时候加锁获取

    select * from table_xxx where id='xxx' for update;

    注意:id字段一定是主键或者唯一索引,不然是锁表,会死人的 悲观锁使用时一般伴随事务一起使用,数据锁定时间可能会很长,根据实际情况选用

    4.7、乐观锁

     

      乐观锁只是在更新数据那一刻锁表,其他时间不锁表,所以相对于悲观锁,效率更高。乐观锁的实现方式多种多样可以通过version或者其他状态条件:

    • 通过版本号实现
    update table_xxx set name=name,version=version+1 where version=version

    • 通过条件限制
    update table_xxx set avai_amount=avai_amount-subAmount where avai_amount-subAmount >= 0

    要求:quality-subQuality>=0 ,这个情景适合不用版本号,只更新是做数据安全校验,适合库存模型,扣份额和回滚份额,性能更高

    注意:乐观锁的更新操作,最好用主键或者唯一索引来更新,这样是行锁,否则更新时会锁表,上面两个sql改成下面的两个更好

    update table_xxx set name=name,version=version+1 where id=id and version=version
    update table_xxx set avai_amount=avai_amount-subAmount where id=id and avai_amount-subAmount >= 0

    4.8、分布式锁

    还是拿插入数据的例子,如果是分布是系统,构建全局唯一索引比较困难,例如唯一性的字段没法确定,这时候可以引入分布式锁,通过第三方的系统(redis或zookeeper),在业务系统插入数据或者更新数据,获取分布式锁,然后做操作,之后释放锁,这样其实是把多线程并发的锁的思路,引入多多个系统,也就是分布式系统中得解决思路。

    要点:某个长流程处理过程要求不能并发执行,可以在流程执行之前根据某个标志(用户ID+后缀等)获取分布式锁,其他流程执行时获取锁就会失败,也就是同一时间该流程只能有一个能执行成功,执行完成后,释放分布式锁(分布式锁要第三方系统提供)

    4.9、select + insert

    并发不高的后台系统,或者一些任务JOB,为了支持幂等,支持重复执行,简单的处理方法是,先查询下一些关键数据,判断是否已经执行过,在进行业务处理,就可以了

    注意:核心高并发流程不要用这种方法

    4.10、状态机幂等

    在设计单据相关的业务,或者是任务相关的业务,肯定会涉及到状态机(状态变更图),就是业务单据上面有个状态,状态在不同的情况下会发生变更,一般情况下存在有限状态机,这时候,如果状态机已经处于下一个状态,这时候来了一个上一个状态的变更,理论上是不能够变更的,这样的话,保证了有限状态机的幂等。

    注意:订单等单据类业务,存在很长的状态流转,一定要深刻理解状态机,对业务系统设计能力提高有很大帮助

    4.11、 对外提供接口的api如何保证幂等

        如银联提供的付款接口:需要接入商户提交付款请求时附带:source来源,seq序列号

        source+seq在数据库里面做唯一索引,防止多次付款,(并发时,只能处理一个请求)

     

    重点:

    对外提供接口为了支持幂等调用,接口有两个字段必须传,一个是来源source,一个是来源方序列号seq,这个两个字段在提供方系统里面做联合唯一索引,这样当第三方调用时,先在本方系统里面查询一下,是否已经处理过,返回相应处理结果;没有处理过,进行相应处理,返回结果。注意,为了幂等友好,一定要先查询一下,是否处理过该笔业务,不查询直接插入业务系统,会报错,但实际已经处理了。

     

    总结:

    幂等性应该是合格程序员的一个基因,在设计系统时,是首要考虑的问题,尤其是在像支付宝,银行,互联网金融公司等涉及的都是钱的系统,既要高效,数据也要准确,所以不能出现多扣款,多打款等问题,这样会很难处理,用户体验也不好

    通过条件限制

  • 相关阅读:
    <汇编语言(第2版)>2011032501
    【转】Debug命令详解
    <海量数据库解决方案>2011032401
    <海量数据库解决方案>2011032301
    <海量数据库解决方案>2011032501
    <汇编语言(第2版)>2011032901
    <海量数据库解决方案>2011033101
    <汇编语言(第2版)>2011032301
    <汇编语言(第2版)>2011032701
    <汇编语言(第2版)>2011040201
  • 原文地址:https://www.cnblogs.com/jdy1022/p/13900337.html
Copyright © 2020-2023  润新知