1. 服务异步化
网络IO处理异步化(NIO, Jetty Continuation,Servlet 3)
服务的异步化(Future, Callable, Runnable, Callback)
2. 线程与协程
多线程并发或者协程支持并发,相比而言,协程在处理IO密集型更具优势
3. 缓存无处不在
前端、CGI、后台能用缓存的地方尽量使用缓存,极大的提高系统性能,包括分布式缓存,本地缓存等等
4. 消息队列
尽量使用消息队列解耦系统
5. 协议设计
二进制协议或文本协议,常用的PROTOBUF、JSON、XML,或者自定义私有协议,协议设计要尽量保持前向兼容性。
6. 核心配置化
对于常用的功能选项以及产品策略,需要做到配置化,变更做到实时下发
7. 系统模块化
大系统尽量模块化,保持模块的单一性和模块间的低耦合,提高模块的可维护性
8. 系统分层
合理的对系统进行分层,保持层次间的独立变化
9. 服务监控
随时全方位的监控服务状态,设置合理的服务告警,例如系统请求量,CPU/内存负载情况,消息队列,成功率,延时等等。
10.服务降级
对于非核心功能支持开关,紧急情况关闭开关降级服务,提供有损服务,避免服务完全不可用。开发设计过程中要区分好关键路径和非关键路径,对于非关键路径允许其失败,但不影响关键路径
11.服务依赖
对于调用第三方系统接口的情况,根据负载要提前合理设置超时时长,对于第三方系统调用自身接口,主要提前做好频率限制,防止请求量过大导致雪崩
12.独立部署
核心模块与非核心模块做到独立部署,应用适当进行拆分部署。即快慢分离,动静分离,轻重分离
13.业务日志
系统保留近期的流水日志,方便问题定位和解决
14.过载保护
前期设计时需要合理评估系统的容量,要设置系统过载阀值,当系统请求量过载时,能运用有效手段进行服务降级。超时必须设置,且要合理预估
15.负载均衡
服务器部署绝对要避免单点,不能因为一个单点的失败而使整个系统无法服务,包括接入层、逻辑层、存储层都要避免单点部署
16.容灾备份
核心数据支持跨机房容灾,甚至跨城市容灾,数据做到热备或冷备。
17.灰度发布
新特性发布尽量灰度发布,能最大程度的减少问题的影响,快速的迭代解决问题
18.服务无状态
系统尽量做到无状态,保持横向的扩展能力,避免有状态带来的升级以及维护不方便
19.合理设计
非核心业务,例如业务统计或者上报等等,可以采用无需回包的UDP上报。技术方案有时候要结合具体的业务需求,在性能、一致性等方面可以折中权衡