• 一些秒杀以及抢红包场景下的技术分析


     

    一、首先来一个抢红包的案例:

    抢红包的场景有点像秒杀,但是要比秒杀简单点。
    因为秒杀通常要和库存相关。而抢红包则可以允许有些红包没有被抢到,因为发红包的人不会有损失,没抢完的钱再退回给发红包的人即可。
    另外像小米这样的抢购也要比淘宝的要简单,也是因为像小米这样是一个公司的,如果有少量没有抢到,则下次再抢,人工修复下数据是很简单的事。而像淘宝这么多商品,要是每一个都存在着修复数据的风险,那如果出故障了则很麻烦。

    基于redis的抢红包方案

    下面介绍一种基于redis的抢红包方案。

    把原始的红包称为大红包,拆分后的红包称为小红包。

    1.小红包预先生成,插到数据库里,红包对应的用户ID是null。生成算法见另一篇blog:http://blog.csdn.net/hengyunabc/article/details/19177877

    2.每个大红包对应两个redis队列,一个是未消费红包队列,另一个是已消费红包队列。开始时,把未抢的小红包全放到未消费红包队列里。

    已消费红包队列里是json字符串,如{userId:'xxx', money:'yyy'}。

    3.在redis中用一个map来过滤已抢到红包的用户。

    4.抢红包时,先判断用户是否抢过红包,如果没有,则从未消费红包队列中取出一个小红包,再push到另一个已消费队列中,最后把用户ID放入map中(已经添加前已经判断过有没有添加,所以是去重的map)。

    5.用一个单线程批量把已消费队列里的红包取出来,再批量update红包的用户ID到数据库里。

    上面的流程是很清楚的,但是在第4步时,如果是用户快速点了两次,或者开了两个浏览器来抢红包,会不会有可能用户抢到了两个红包?

    为了解决这个问题,采用了lua脚本方式,让第4步整个过程是原子性地执行。

    下面是在redis上执行的Lua脚本:

    -- 函数:尝试获得红包,如果成功,则返回json字符串,如果不成功,则返回空
    -- 参数:红包队列名, 已消费的队列名,去重的Map名,用户ID
    -- 返回值:nil 或者 json字符串,包含用户ID:userId,红包ID:id,红包金额:money
    
    -- 如果用户已抢过红包,则返回nil
    if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then
      return nil
    else
      -- 先取出一个小红包
      local hongBao = redis.call('rpop', KEYS[1]);
      if hongBao then
        local x = cjson.decode(hongBao);
        -- 加入用户ID信息
        x['userId'] = KEYS[4];
        local re = cjson.encode(x);
        -- 把用户ID放到去重的set里
        redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);
        -- 把红包放到已消费队列里
        redis.call('lpush', KEYS[2], re);
        return re;
      end
    end
    return nil


    下面是测试代码:

    public class TestEval {
    	static String host = "localhost";
    	static int honBaoCount = 1_0_0000;
    	
    	static int threadCount = 20;
    	
    	static String hongBaoList = "hongBaoList";
    	static String hongBaoConsumedList = "hongBaoConsumedList";
    	static String hongBaoConsumedMap = "hongBaoConsumedMap";
    	
    	static Random random = new Random();
    	
    //	-- 函数:尝试获得红包,如果成功,则返回json字符串,如果不成功,则返回空
    //	-- 参数:红包队列名, 已消费的队列名,去重的Map名,用户ID
    //	-- 返回值:nil 或者 json字符串,包含用户ID:userId,红包ID:id,红包金额:money
    	static String tryGetHongBaoScript = 
    //			"local bConsumed = redis.call('hexists', KEYS[3], KEYS[4]);
    "
    //			+ "print('bConsumed:' ,bConsumed);
    "
    			"if redis.call('hexists', KEYS[3], KEYS[4]) ~= 0 then
    "
    			+ "return nil
    "
    			+ "else
    "
    			+ "local hongBao = redis.call('rpop', KEYS[1]);
    "
    //			+ "print('hongBao:', hongBao);
    "
    			+ "if hongBao then
    "
    			+ "local x = cjson.decode(hongBao);
    "
    			+ "x['userId'] = KEYS[4];
    "
    			+ "local re = cjson.encode(x);
    "
    			+ "redis.call('hset', KEYS[3], KEYS[4], KEYS[4]);
    "
    			+ "redis.call('lpush', KEYS[2], re);
    "
    			+ "return re;
    "
    			+ "end
    "
    			+ "end
    "
    			+ "return nil";
    	static StopWatch watch = new StopWatch();
    	
    	public static void main(String[] args) throws InterruptedException {
    //		testEval();
    		generateTestData();
    		testTryGetHongBao();
    	}
    	
    	static public void generateTestData() throws InterruptedException {
    		Jedis jedis = new Jedis(host);
    		jedis.flushAll();
    		final CountDownLatch latch = new CountDownLatch(threadCount);
    		for(int i = 0; i < threadCount; ++i) {
    			final int temp = i;
    			Thread thread = new Thread() {
    				public void run() {
    					Jedis jedis = new Jedis(host);
    					int per = honBaoCount/threadCount;
    					JSONObject object = new JSONObject();
    					for(int j = temp * per; j < (temp+1) * per; j++) {
    						object.put("id", j);
    						object.put("money", j);
    						jedis.lpush(hongBaoList, object.toJSONString());
    					}
    					latch.countDown();
    				}
    			};
    			thread.start();
    		}
    		latch.await();
    	}
    	
    	static public void testTryGetHongBao() throws InterruptedException {
    		final CountDownLatch latch = new CountDownLatch(threadCount);
    		System.err.println("start:" + System.currentTimeMillis()/1000);
    		watch.start();
    		for(int i = 0; i < threadCount; ++i) {
    			final int temp = i;
    			Thread thread = new Thread() {
    				public void run() {
    					Jedis jedis = new Jedis(host);
    					String sha = jedis.scriptLoad(tryGetHongBaoScript);
    					int j = honBaoCount/threadCount * temp;
    					while(true) {
    						Object object = jedis.eval(tryGetHongBaoScript, 4, hongBaoList, hongBaoConsumedList, hongBaoConsumedMap, "" + j);
    						j++;
    						if (object != null) {
    //							System.out.println("get hongBao:" + object);
    						}else {
    							//已经取完了
    							if(jedis.llen(hongBaoList) == 0)
    								break;
    						}
    					}
    					latch.countDown();
    				}
    			};
    			thread.start();
    		}
    		
    		latch.await();
    		watch.stop();
    		
    		System.err.println("time:" + watch.getTotalTimeSeconds());
    		System.err.println("speed:" + honBaoCount/watch.getTotalTimeSeconds());
    		System.err.println("end:" + System.currentTimeMillis()/1000);
    	}
    }


    测试结果20个线程,每秒可以抢2.5万个,足以应付绝大部分的抢红包场景。

    如果是真的应付不了,拆分到几个redis集群里,或者改为批量抢红包,也足够应付。

    redis的抢红包方案,虽然在极端情况下(即redis挂掉)会丢失一秒的数据,但是却是一个扩展性很强,足以应付高并发的抢红包方案。

    二、秒杀场景案例分析:

    秒杀系统的特点

    • 新品上市 价格低廉
    • 市场造势 大幅推广
    • 指定时间开售
    • 瞬时售空
    • 读多写少

    秒杀系统难点

    • 高并发、负载压力大
    • 竞争资源是有限的
    • 对其他业务的影响
    • 提防“黄牛党”

    秒杀系统应用场景

    • 商品抢购
    • 群红包
    • 优惠卷领取
    • 抢火车票
    • 在线预约

    技术维度对秒杀系统的分析 —— 架构原则

    这里写图片描述

    技术维度对秒杀系统的分析 —— 优化技术

    这里写图片描述

    业务维度对秒杀系统的分析

    这里写图片描述
    修改库存放在订单支付的前面位置 体现了企业的良心 
    秒杀没抢到的话 订单30分钟未支付会取消订单 释放库存 可以捡漏

    核心业务基于DB的实现

    场景描述 
    业务描述:有50台苹果7手机,模拟200个用户同时请求购买,每个人都购买N台手机 
    实现原理:基于数据库的乐观锁 表t_goods_info 
    update t_goods_info set amout = amout - #{buys} where code = #{code} and amout - #{buys} >=0

    优点:实现简单, 最可靠 
    缺点: 并发量小 300 or 700

    核心业务基于cache的实现(memcache)

    场景描述 
    业务描述:有50台苹果7手机,模拟200个用户同时请求购买,每个人都购买N台手机 
    实现原理:基于缓存的乐观锁 。基于memcache的decr,decr是原子的。

    decr是有毒的 
    Decr的返回值有只有三种情况, 
    “>0”“=0”(减数大于被减数) “=-1”(键值不存在) 
    10 – 100 =0(这里有毒) 
    Memcached是不支持事务的 
    操作序列不是原子性的

    解决 
    轻量级的锁机制CAS机制 
    解释:Check and set ,即保存之前进行版本检查,memcache 1.2.4新增的特性。

    • gets: 获取item,并获取版本号
    • cas:更新item,并上传获取item时的版本号,版本号与服务器一致才能更新成功

    算法如下: 
    这里写图片描述

    核心代码:

    @Override
    public Boolean updateGoodsAmount(String code, int buys) {
        MemcachedItem item = client.gets(code);
        if(Integer.valueOf(item.getValue().toString().trim()) < buys ){
            return false;
        }else{
            if(client.cas(code, String.valueOf(Integer.valueOf(item.getValue().toString().trim())-buys), item.casUnique)){
                return true;
            }else{
                return updateGoodsAmount(code,buys);
            }
        }
    
    }

    Redis 与 memcached 的秒杀之争

    这里写图片描述

  • 相关阅读:
    最强神作!Crysis深度剖析与优化指南(1825)
    到底什么样的一款游戏就算全3D?
    [转贴]因父之名:一个“非科班”的成长史
    转载《阅读一款3D引擎的方法备忘》
    魔兽世界角色换装
    Flash游戏开发之按键控制(复合键,八方向键)
    通过MC里的按钮跳转场景
    Cuyahoga 的安装
    如何从数组中随机取出多个不重复的项
    [Flash开发笔记] flash 8 中的 setTimeout()
  • 原文地址:https://www.cnblogs.com/gxyandwmm/p/9589130.html
Copyright © 2020-2023  润新知