• 高并发、大流量解决方案


    一、高并发架构相关概念
    1、并发:是指并发的访问,也就是某个时间点,有多少个访问同时到来;
    通常如果一个系统的日PV在千万以上,有可能是一个高并发的系统;
    2、具体关心什么?
    QPS:每秒请求或查询的数量,在互联网领域,指每秒响应请求数;
    吞吐量:单位时间内处理的请求量(通常由QPS与并发数决定)
    响应时间:从请求发出到收到响应花费的时间,例如一个系统处理一个HTTP请求需要100ms,这个100ms就是系统的响应时间;
    PV:综合浏览量,即页面浏览量或者点击量,一个访客在24小时内访问的页面数量;
    UV:独立访客 ,即一定时间范围内相同访客多次访问网站,只计算为一个独立的访客;
    带宽:计算带宽大小需要关注两个指标,峰值流量和页面的平均大小;
    日网站带宽=pv/统计时间(换算到秒)*平均页面大小(单位kB)*8
    峰值一般是平均值的倍数;
    QPS不等于并发连接数,QPS是每秒HTTP请求数量,并发连接数是系统同时处理的请求数量;
    峰值每秒请求数(QPS) = (总PV书*80%)/(6小时秒数*20%)
    压力测试:测试能承受的最大并发,测试最大承受的QPS值
    测试工具(ab):目标是URL,可以创建多个访问线程对同一个URL进行访问(Nginx);
    ab的使用:模拟并发请求100次(100个人),总共请求5000次(每个人请求5000次)
    ab -c 100 -n 5000 待测试网站(内存和网络不超过最高限度的75%)
    QPS达到50:一般的服务器就可以应付;
    QPS达到100:假设关系型数据库的每次请求在0.01秒完成(理想),假设单页面只有一个SQL查询,那么100QPS意味着1秒中完成100次请求,但此时我们不能保证数据库查询能完成100次;
    方案:数据库缓存层、数据库的负载均衡;
    QPS达到800:假设我们使用 百兆宽带,意味着网站出口的实际带宽是8M左右,假设每个页面是有10k,在这个并发的条件下,百兆带宽已经被吃完;
    方案:CDN加速、负载均衡
    QPS达到1000:假设使用memcache缓存数据库查询数据,每个页面对memcache请求远大于直接对DB的请求;
    memacache的悲观并发数在2W左右,但有可能之前内网带宽已经被吃光,表现出不稳定:
    方案:静态HTML缓存

    QPS达到2000:文件系统访问锁都成为了灾难;
    方案:做业务分离,分布式存储;
    二、高并发解决方案案例:
    流量优化:防盗链处理(把一些恶意的请求拒之门外)
    前端优化:减少HTTP请求、添加异步请求、启用浏览器的缓存和文件压缩、CDN加速、建立独立的图片服务器;
    服务端优化:页面静态化处理、并发处理、队列处理;
    数据库优化:数据库的缓存、分库分表、分区操作、读写分离、负载均衡
    web服务器优化:负载均衡;

  • 相关阅读:
    区分replace()和replaceAll()
    error:java.lang.ClassCastException: java.lang.Integer cannot be cast to java.lang.Long
    关于设计SQL表的一些问题
    SQL语句的学习理解
    error:安装手电筒程序后在打开程序后报错:你的camera flashlight正在被其他程序占据
    Error:Execution failed for task ':app:processDebugGoogleServices'. > No matching client found for package name 'com.fortythree.sos.flashlight'
    Error:Error converting bytecode to dex: Cause: com.android.dex.DexException: Multiple dex files define Lcom/google/android/gms/internal/adp;
    Android Studio 封装的类的继承
    Android SDK安装
    MongoDB探索之路(二)——系统设计之CRUD
  • 原文地址:https://www.cnblogs.com/meichao/p/9497483.html
Copyright © 2020-2023  润新知