• 网站架构概述


    大型分布式网站架构技术总结(其下有很多概述文章)

    互联网公司技术架构

    记一次JavaWeb网站技术架构总结

    系统网站

    不论什么网站,不论在什么阶段,都是以用户为基础的。其目的都是要服务更多用户,占据更多市场份额,创造更大利润。

    在网站初期,需要是系统尽快上线,抢占市场。当用户量上来了,再进行系统升级。现在绝大多数系统,应该都是走的这个路子,从小到大,从简单到复杂。

    大型网站的特点

    以用户为中心,用户多,分布广泛,全国世界各地

    流量大,并发高,数据量大

    安全环境恶劣,容易受到网络攻击

    需求多,频繁发布

    系统从小到大,渐进发展

    大型网站架构目标

    高性能:提供快速的访问体验

    主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。

    可分为前端优化,应用层优化,代码层优化,存储层优化。

    前端优化:网站业务逻辑之前的部分;

    浏览器优化:减少Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减少Cookie传输;CDN加速,反向代理;

    应用层优化:处理网站业务的服务器。使用缓存,异步,集群

    代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;

    存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等;

    高可用:网站服务一直可以正常访问

    正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点。要保证高可用是很困难的,也就是说网站的故障是不可避免的。

    如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标。比如四个9(99.99),一年内允许的不可用时间是53分钟。

    不同层级使用的策略不同,一般采用冗余备份失效转移解决高可用问题。

    应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题),实现高可用。

    服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,限流,幂等设计等。

    数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])

    可伸缩:通过硬件增加/减少,提高/降低处理能力

    伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。

    应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。

    服务层:与应用层类似;

    数据层:分库,分表,NOSQL等;常用算法Hash,一致性Hash。

    扩展性:方便的通过新增/移除方式,增加/减少新的功能/模块

    可以方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。

    模块化,组件化:高内聚,内耦合,提高复用性,扩展性。

    稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。

    设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。

    消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。

    分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。 

    安全性:提供网站安全访问和数据加密,安全存储等策略

    对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。

    基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用,正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,建立DDOS防御系统,使用攻击检测系统,进行         子网隔离等手段。

             应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可以使用Web应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。

             数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);

             常用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。 

    敏捷性:随需应变,快速响应

    网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

    除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。 

    大型网站架构常用模式

    分层(*****)

    网络防护层:安全防护(防火墙、DDOS高防、),负载均衡,连接管理,协议适配

    接入网关层:智能路由,流量管控,熔断机制,降级容错

    业务服务层:

                        1. 具体业务层:比如秒杀业务,寿险业务,团购业务,各种前端业务

                        2.业务组件层:用户服务,会员服务,地址服务,支付服务,风控服务,搜索服务,推荐服务,权限服务

    基础服务层:RPC服务,MQ服务,缓存服务,DB服务,配置中心服务,文件服务,大数据服务,搜索服务

    服务监测层:链路追踪,统一日志,统一监控告警,数据采集与分析

    平台服务层:资源调度,镜像治理,发布管理

    分布式

    将应用分开部署(比如多台物理机),通过远程调用协同工作。比如A服务调用B服务,A、B服务单独部署,在不同的服务器上做专门的事,可利用的资源更多,处理能力也就更大

    集群

    一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。在分布式的基础上,多机器对外提供相同服务,负载均衡下,提升系统可用性。

    缓存

    将数据放在距离应用或用户最近的位置,加快访问速度。

    CDN缓存:将数据缓存到离用户最近的位置,一般缓存静态资源文件(页面,脚本,图片,视频,文件等)

    反向代理缓存:反向代理一般缓存静态资源。反向代理位于应用服务器机房,处理所有对WEB服务器的请求。如果用户请求的页面在代理服务器上有缓冲的话,代理服务器直接将缓冲内容发送给用户。

                             如果没 有缓冲则先向WEB服务器发出请求,取回数据,本地缓存后再发送给用户。通过降低向WEB服务器的请求数,从而降低了WEB服务器的负载。

    分布式缓存

    本地缓存

    服务降级

    当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。

    限流

    系统处理能力有限,当大量请求来时,有些请求不做处理(返回异常或者固定数据)或者拒绝处理。

    异步

    将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知 模式。

    冗余

    增加副本,提高可用性,安全性,性能。

    安全

    对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。

  • 相关阅读:
    BNUOJ 19792 Airport Express
    Poor Hanamichi
    BNUOJ 1206 A Plug for UNIX
    HDU 3507 Print Article
    一个程序猿试用有道云笔记VIP功能体验
    Cloud Foundry Session Affinity(Sticky Session)的实现
    SAP成都研究院廖婧:SAP C4C社交媒体集成概述
    SAP订单编排和流程增强概述
    在Kubernetes上运行SAP UI5应用(上)
    Docker入门系列之三:如何将dockerfile制作好的镜像发布到Docker hub上
  • 原文地址:https://www.cnblogs.com/fanguangdexiaoyuer/p/11090668.html
Copyright © 2020-2023  润新知