• 前后端项目部署-4, flask+Gunicorn+gevent+supervisor+nginx+redis,docker-compose部署


    ####

    部署方案flask+Gunicorn+gevent+supervisor+nginx

    每个组件的作用:

    1,. gunicorn:高性能WSGI服务器;

    Gunicorn是一个unix上被广泛使用的高性能的Python WSGI UNIX HTTP Server。
    和大多数的web框架兼容,并具有实现简单,轻量级,高性能等特点。

    目前Gunicorn只能运行在Linux环境中,不支持windows平台

    部署 Flask 应用时,为什么会需要 gunicorn 或 uWSGI?

    简单说就是 Flask自带的wsgi性能低下

    只适合你开发调试的时候用,

    线上你必须用Gunicorn+Nginx才能获得更强的性能,和更高的安全性

    下面我说一些废话:

    django、flask 都有自带的http server,

    仅仅是方便我们开发的时候调试代码而已

    这些开源框架的维护者不可能投入大量精力来优化自带的wsgi服务器,

    他们需要把更多的精力投入到框架自身的优化中,

    因为服务器方面已经有Gunicorn/uWSGI、nginx等优秀的开源解决方案

    假设我们用自带的来部署到线上,会有什么问题呢?

    性能很差,差到不好意思出门见人(如果你的网站就几十个人访问,那性能应该问题不大)

    最后我个人建议的方案是 flask+Gunicorn+gevent+supervisor+nginx

    所以说为什么使用Gunicorn,简单点就是为了并发。利用异步,提高性能。

    2. gevent:把Python同步代码变成异步协程的库;

    gevent:gunicorn 默认使用同步阻塞的网络模型(-k sync),对于大并发的访问可能表现不够好,我们很方便地顺手套一个gevent来增加并发量

    3,nginx:高性能Web服务器+负责反向代理;

    Nginx 是高效的 Web 服务器和反向代理服务器,可以用作负载均衡(当有 n 个用户访问服务器时,可以实现分流,分担服务器的压力),与 Apache 相比,Nginx 支持高并发,可以支持百万级的 TCP 连接,十万级别的并发连接,部署简单,内存消耗少,成本低,但 Nginx 的模块没有 Apache 丰富。Nginx 支持 uWSGI 的 uwsgi 协议,因此我们可以将 Nginx 与 uWSGI 结合起来,Nginx 通过 uwsgi_pass 将动态内容交给 uWSGI 处理。

    nginx是一个功能强大的反向代理服务器,我们使用nginx来转发gunicorn服务。为什么要在gunicorn之上再加层nginx呢?一方面nginx可以补充gunicorn在某些方面的不足,如SSL支持、高并发处理、负载均衡处理等,另一方面如果是做一个web网站,除了服务之外,肯定会有一些静态文件需要托管,这方面也是nginx的强项.

    有了gunicorn和gevent后,gunicorn可以实现多进程http服务,不过其性能还是相对nginx这种专业的web服务要差一些,主要体现在对高并发的处理、安全问题、静态资源文件的处理等。因此一般情况会在gunicorn之上再配置一层nginx服务。其基本架构示意如下(图来源于百度):

    uWSGI+Flask就可以实现一个完整的web服务,似乎不需要Nginx服务器。
    当一个服务访问量过大时,我们可能会考虑多部署几台web服务器,这几台web服务器都可以处理客户端请求,但问题是如何将客户端请求分发到各个web服务器上?这就是Nginx的作用->反向代理服务器。它们的关系如下图所示:

    4,. supervisor:监控服务进程的工具;

    web服务跑起来之后,为了保证服务的稳定性,需要加一个收获进程。supervisor非常好用,配置也简单方便,它是一个用 Python 写的进程管理工具,可以很方便的用来启动、重启、关闭进程(不仅仅是 Python 进程)。除了对单个进程的控制,还可以同时启动、关闭多个进程,比如很不幸的服务器出问题导致所有应用程序都被杀死,此时可以用 supervisor 同时启动所有应用程序而不是一个一个地敲命令启动。

    nginx一般不会莫名其妙被关闭,但gunicorn是一个进程,完成有有可能因为一些原因被关闭或者阻塞,为了保证gunicorn进程,需要使用看护进程插件。这里使用supervisor来解决这个问题。

    supervisor专门用户linux端进程管理,

    Supervisor是用Python开发的一套通用的进程管理程序,能将一个普通的命令行进程变为后台daemon,并监控进程状态,异常退出时能自动重启。它是通过fork/exec的方式把这些被管理的进程当作supervisor的子进程来启动,这样只要在supervisor的配置文件中,把要管理的进程的可执行文件的路径写进去即可。也实现当子进程挂掉的时候,父进程可以准确获取子进程挂掉的信息的,可以选择是否自己启动和报警。supervisor还提供了一个功能,可以为supervisord或者每个子进程,设置一个非root的user,这个user就可以管理它对应的进程。

    ###

    启动主程序的命令传递:supervisor->gunicorn->flask

    ###

    看着步骤很多,其实除了Gunicorn都不是必须的,Supervisor和Nginx你要是不想使用其实也可以不使用,我说得比较啰嗦,不过其实很容易。

    ####

    使用docker-compose部署,

    docker-Compose 简介
    docker-Compose 是用于定义和运行多容器 Docker 应用程序的工具。通过 Compose,您可以使用 YML 文件来配置应用程序需要的所有服务。然后,使用一个命令,就可以从 YML 文件配置中创建并启动所有服务。

    这个很重要,

    要使用docker-compose,首先要把每个部分的Dockerfile写好,然后在docker-compose.yml文件中统一构建和启动

    docker-compose会先从每个服务的build目录下找到Dockerfile,然后依次镜像。所有镜像创建完毕后,再根据yml文件中其他配置依次启动镜像的容器。

    当docker-compose启动一次后,只要不更改它自动生成的容器和镜像,再次启动,它就不会再创建镜像,而是启动之前生成的容器。

    如果想要更改单个服务的内容,修改Dockerfile的内容、或者删除docker-compose自动生成的容器和镜像,再次启动docker-compose的时候,它会重新构建修改后服务的容器,而其他没有做过修改的服务不变

    ####

    第一步,准备一个简单的flask项目,

    很简单只需要一个文件,

    ###

    第二步,gunicorn 安装,Gevent安装,supervisor安装,redis安装,

    Flask==1.1.2
    redis==3.5.3
    gevent==21.8.0
    gunicorn==20.1.0
    supervisor==4.2.2

    ###

    第三步,准备web这个文件夹,

    app.py

    import os
    import socket
    
    from flask import Flask
    from redis import Redis
    
    
    app = Flask(__name__)
    redis = Redis(host=os.environ.get('REDIS_HOST', 'redis'), port=6379)
    
    
    @app.route('/')
    def hello():
        redis.incr('hits')
        return 'Hello Container World! I have been seen %s times and my hostname is %s.
    ' % (redis.get('hits'),socket.gethostname())

    ###

    config.py,作为gunicorn的配置文件,

    import multiprocessing
    import os
    
    from distutils.util import strtobool
    
    
    bind = os.getenv('WEB_BIND', '0.0.0.0:8000')
    accesslog = '-'
    access_log_format = "%(h)s %(l)s %(u)s %(t)s '%(r)s' %(s)s %(b)s '%(f)s' '%(a)s' in %(D)sµs"  # noqa: E501
    
    workers = int(os.getenv('WEB_CONCURRENCY', multiprocessing.cpu_count() * 2))
    threads = int(os.getenv('PYTHON_MAX_THREADS', 1))
    
    reload = bool(strtobool(os.getenv('WEB_RELOAD', 'false')))

    ####

    dockfile

    FROM python:3.8.5-slim-buster
    
    LABEL maintainer="XXX>"
    
    COPY . /
    
    RUN pip install -r requirements.txt && pip install gunicorn
    
    ENTRYPOINT ["/runserver.sh"]

    ###

    runserver

    #!/bin/bash
    
    #gunicorn --log-level info --log-file=/gunicorn.log --workers 4 --name app -b 0.0.0.0:8000 --reload app.app:app
    #gunicorn -c app/config.py app.app:app
    supervisord -n -c supervisord.conf

    ###
    supervisord.conf,这个是supervisor的配置文件,

    [supervisord]
    nodaemon=true
    
    [program:flask_gunicorn_nginx_docker]
    command=gunicorn -c app/config.py app.app:app    ; supervisor启动命令

    #####

    第四步,准备nginx文件夹

    app,这个作为Nginx的配置文件,

    server {
    
        listen 80;
        server_name 0.0.0.0;
        charset utf-8;
    
        location / {
            proxy_pass http://web:8000;
            proxy_set_header Host $host;
            proxy_set_header X-Real-IP $remote_addr;
            proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        }
    
    }

    ##

    dockefile,注意你看这里,使用了Nginx的基础镜像,

    FROM nginx:alpine
    RUN rm /etc/nginx/conf.d/default.conf
    ADD sites-enabled/app /etc/nginx/conf.d/default.conf

    ###

    ### 

    第五步,docker-compose.yml,注意这个地方又使用了redis的镜像,

    version: "2.0"
    
    services:
      redis:
        image: redis:buster
    
      web:
        build:
          context: ./web/
        ports:
          - "8000:8000"
        links:
          - redis
    
      nginx:
        restart: always
        build: ./nginx/
        ports:
          - "80:80"
        links:
          - web

    #####

    运行,

    build and up

    $ cd docker-compose-flask
    $ docker-compose build
    $ docker-compose up -d
    Starting dockercomposeflask_redis_1 ... done
    Starting dockercomposeflask_web_1 ... done
    Starting dockercomposeflask_nginx_1 ... done

    Check the service running information

    $ docker-compose ps
               Name                         Command               State           Ports
    --------------------------------------------------------------------------------------------
    dockercomposeflask_nginx_1   /usr/sbin/nginx                  Up      0.0.0.0:80->80/tcp
    dockercomposeflask_redis_1   docker-entrypoint.sh redis ...   Up      6379/tcp
    dockercomposeflask_web_1     /runserver.sh                    Up      0.0.0.0:8000->8000/tcp

    Check the web service

    $ curl 127.0.0.1
    Hello Container World! I have been seen 1 times and my hostname is 09ad15ad1b51.
    $ curl 127.0.0.1
    Hello Container World! I have been seen 2 times and my hostname is 09ad15ad1b51.
    $ curl 127.0.0.1
    Hello Container World! I have been seen 3 times and my hostname is 09ad15ad1b51.

    stop the service

    $ docker-compose stop
    Stopping dockercomposeflask_nginx_1 ... done
    Stopping dockercomposeflask_web_1   ... done
    Stopping dockercomposeflask_redis_1 ... done

    #####

    整个的过程,已经可以作为生产环境部署了,

    下一步,要把MongoDB,mysql加入docker里面,看看是怎么应用的,

    #####

  • 相关阅读:
    dynamic 转换实体类
    泛型的简单使用
    winfrom嵌入word
    echart睡眠后台代码,
    echart实现睡眠前台代码
    Mysql时间加一天
    一道关于面向对象面试题所引发的血案(阿里)
    一道面试题让你彻底掌握JS中的EventLoop(头条)
    对象(数组)的深克隆和浅克隆(头条)
    BAT笔试题中几道关于堆栈内存和闭包作用域的题
  • 原文地址:https://www.cnblogs.com/andy0816/p/15374756.html
Copyright © 2020-2023  润新知