• Thrift Direct Memory OOM问题解决方法 内存溢出问题


    FrameBuffer为AbstractNonblockingServer类的内部类,TThreadedSelectorServer继承了AbstractNonblockingServer:

    通过研究代码,发现FrameBuffer的read方法的代码中有如下片段,

              // pull out the frame size as an integer.
              int frameSize = buffer_.getInt(0);
              if (frameSize <= 0) {
                LOGGER.error("Read an invalid frame size of " + frameSize
                    + ". Are you using TFramedTransport on the client side?");
                return false;
              }
    
              // if this frame will always be too large for this server, log the
              // error and close the connection.
              if (frameSize > MAX_READ_BUFFER_BYTES) {
                LOGGER.error("Read a frame size of " + frameSize
                    + ", which is bigger than the maximum allowable buffer size for ALL connections.");
                return false;
              }

    MAX_READ_BUFFER_BYTES这个值即为对读取的包的长度限制,为AbstractNonblockingServer类的属性,其值又取自内部类AbstractNonblockingServerArgs的maxReadBufferBytes属性,默认值为long型的最大值;

    即只要修改maxReadBufferBytes的值就可以起到限制的作用,修改服务启动的代码如下:

    TThreadedSelectorServer.Args args = new TThreadedSelectorServer.Args(transport).processor(
                        processor).workerThreads(this.serverWorkerThreads);
                
                // The maximum amount of memory we will allocate to client IO buffers at a time.
                // set 1MB.
                args.maxReadBufferBytes = 1024 * 1024L;
                
                server = new TThreadedSelectorServer(args);
    
                server.setServerEventHandler(new DataIfaceServerEvent());
                LOG.info("DataIfaceServer start, port={}.", this.serverPort);
                server.serve();

    args.maxReadBufferBytes = 1024 * 1024L;  --设置为1M

    通过对我的thrift的服务进行抓包调研,我的方法调用请求数据包没有超过200字节的,所以1M的长度限制是足够了。

    通过测试如上的修改没有问题,并且对服务继续发送http get请求不会导致直接内存增加。并且报出错误日志:

    Read a frame size of XXX, which is bigger than the maximum allowable buffer size for ALL connections.

    至此问题解决;

    问题的分析过程:http://my.oschina.net/shipley/blog/422204

  • 相关阅读:
    简单介绍三层架构
    Java字符串常量池是什么?为什么要有这种常量池?
    java中String、StringBuffer和StringBuilder的区别(简单介绍)
    java中equals以及==的用法(简单介绍)
    关于java中Exception异常
    职场沟通,别光靠嘴
    小目标 | DAX高级实践-Power BI与Excel联合应用
    本号讯 | 微软和百度携手推进全球自动驾驶技术; 微软发布新一代可垂直可水平滚动的Arc鼠标
    你有一枚私人同声传译员待领取
    有了这套物联网节水平台,他决定回去继续管理农场
  • 原文地址:https://www.cnblogs.com/lishijia/p/5682326.html
Copyright © 2020-2023  润新知