• centos7 lldb 调试netcore应用的内存泄漏和死循环示例(dump文件调试)(转发)


    原文:

    centos7 lldb 调试netcore应用的内存泄漏和死循环示例(dump文件调试)

    写个demo来玩一玩linux平台下使用lldb加载sos来调试netcore应用。
    当然,在真实的产线环境中需要分析的数据和难度远远高于demo所示,所以demo的作用也仅仅只能起到介绍工具的作用。
    通常正常情况下,分析个几天才能得出一个结论的的结果都还是比较令人开心的!,很多时候分析来分析去也搞不出个所以然,也是很正常的(当然,也是自己学艺不精(_))
    在linux平台下的sos调试远没有在windows下面用windbg来得舒服,该有的命令很多都没有。
    微软爸爸还要加油努力啊!如果能做到linux下的dmp能在windows下面用windbg之类的工具那就爽翻了,哈哈,当然不可能,臆想一下下拉。

    lldb工具的安装,linux下netcore如何生成dump文件,查看下文
    centos7使用lldb调试netcore应用转储dump文件

    图片有点多,文章有点长,来一个大纲先

    • 准备DEMO程序的代码
    • 生成待调试分析的dump文件
    • 目前linux下sos支持的命令
    • 模拟分析内存泄漏
    • 内存泄漏调试分析结论
    • 内存泄漏分析疑问一
    • 内存泄漏分析疑问二
    • 死循环调试分析
    • 内存泄漏调试分析结论

    准备DEMO程序的代码

    废话不多说,先上demo程序代码。代码超级简单,模拟内存泄漏就简单的往一个静态list里面每次插入1M的byte[];死循环则就是一个while(true);
    PS:话说markdown插入代码能不能有收起,展开功能呢。那就爽歪歪拉 @dudu

    namespace linxu_dump_lldb.Controllers
    {
        class env
        {
            public static bool cpu_flag;
            public static bool setcpu_flag(bool flag) => cpu_flag = flag;
            public static bool getcpu_flag() => cpu_flag;
            public static List<byte[]> memory = new List<byte[]>();
        }
        [Route("api/[controller]/[action]")]
        [ApiController]
        public class ValuesController : ControllerBase
        {
            public string index() =>(GC.GetTotalMemory(false) / 1024.0 / 1024).ToString("0.00M");
            [HttpGet]
            public void begin_cpu()
            {
                env.setcpu_flag(true);
                Task.Run(() => {while (env.getcpu_flag()){}});
            }
            [HttpGet]
            public void begin_memory()
            {
                var size_1m = 1 * 1024 * 1024;
                for (int i = 0; i < 100; i++)  env.memory.Add(new byte[size_1m]);
            }
            [HttpGet]
            public void end_cpu() => env.setcpu_flag(false);
            [HttpGet]
            public void end_memory()
            {
                env.memory.Clear();
                GC.Collect();
            }}}
    

    生成待调试分析的dump文件

    生成模拟内存泄漏的dump

    请求接口begin_memory来个几次后,然后通过createdump工具生成dump包,执行了4-5次begin_memory,也就是加了大约400-500M的byte[]放到静态变量中

    生成死循环的dump包

    请求接口begin_cpu开始异步任务进入死循环,然后通过createdump工具生成dump包

    目前linux下sos支持的命令

    当前dotnet版本2.1.1。如下图所示支持,sos支持的命令,缺少几个比较有用的命令:ProcInfo ,ObjSize ,SyncBlk,其他缺少的赶脚也用不太上。最最重要的是gdb,lldb的调试命令不熟悉,或者说找不到windbg所对应命令还是蛮难受的,需要进一步认真学习才行...

    模拟分析内存泄漏

    命令走一个,进入lldb。

    /usr/local/llvm-3.9.0/bin/lldb dotnet -c /opt/dump_file/memory_dump -o "plugin load /usr/share/dotnet/shared/Microsoft.NETCore.App/2.1.1/libsosplugin.so"
    

    dumpheap -stat 分析先走一波。对堆上面的对象进行统计

    大于2kb的对象看一看

    图上反馈byte[]数组对象占的内存最大,而且是远超其他类型的,因此可以判定应该是byte[]在代码的某个地方没有释放。进去跟进去即可。
    真实情况项目情况很可能是占用内存最大,对象最多的string对象。分析起来真的有时候看运气,凭经验!...(_)
    dumpheap -mt addr(byte[]数组的MT地址) 过滤看看类型是byte[]的都有那些对象。


    看上去特征特别明显,全是大小为1048600的bte[]对象。接下来随便找一个看看具体对象的数据是什么
    dumpobj addr(对象地址);查看对象的基本结构

    内存数据看上去全是 00 00 00。可以说是一个默认的byte[]对象。可以在进入查看一下
    sos DumpArray -start 0 -length 10 00007fd5febff9d8(对象地址)
    查看数据对象,上一张图上我们能看到数组的lenght有1048576个,所以加上-start,-length参数,只查看最前面10个对象。不然刷屏得刷死咯。
    在接着使用
    sos DumpVC(查看值类型命令) 00007fd611151460(数组元素类型的mt地址) 00007fd5febff9e9(数组元素对象的地址)
    a 如下图所示,每个数组元素的类型都是byte,他们的value都是0;

    接下来,我们在看看这些个对象的gcroot对象是谁,也就是说这些个对象到底由谁持有
    gcroot addr(对象地址)

    在挨个看一看,能发现我们的这个list对象lenth有400个,_version=501;这是因为我clear过一次,所以。clear+1,add([100])个数组,所以400+100+1=501;
    如果这是时候有一个objsize命令可以使用,我们就能计算出来这个list是一个400M的丑陋大对象。可惜linux下面木有。

    那就只能用查看数据的方法看看这个数组的具体详情拉。
    sos DumpArray -details(可以把每个对象的基本结构都打印出来),能看到他的每一个元素都有1M(size:1048600(0x100018) bytes)大小

    内存泄漏调试分析结论

    上图种gcroot有3个结果。
    第一个,用DumpArray查看后发现,应该是一个系统的静态对象,里面存储都是context之类的东西。
    第二个,就是我们的问题list对象。即List<byte[]>
    第三个,是第二个list对象的items。
    所以问题就出在我们这个静态的 list对象上了,那从代码上搜索一下就比较容易发现我们的List<byte[]>在哪里了。

    疑问一


    上图种是书籍Pro .Net Performance: Optimize Your C# Applications第98页的一个列子,可惜没有搞懂他的这个地址怎么出来的,能直接拉出来堆栈信息...

    疑问二

    按理来说1M应该等于1048576,那为什么这里显示是1048600呢,多余的24byte是啥玩意呢?
    dumpobj查看byte[]对象信息
    dumpmt查看byte[]类型的mt信息
    x addr(对象地址,x命令是lldb的命令,用户查看地址处的内存数据。可以使用 -c 24指定需要查看多少位数据)

    x addr 前16位数据小红框标记,最后8位小红框标记。中间的则是1M的01。01:byte数据,代码直接赋值。

    for (int i = 0; i < 100; i++)
    {
        var x = new byte[size_1m];
        for (int j = 0; j < x.Length; j++) x[j] = 1;
        env.memory.Add(x);
    }
    



    但是这24位数据内存结构为何这么组织,以及具体的含义就不是特别清楚了,有待考证!!!
    学艺不精!,准备回家看看C#本质论有没有说到这部分内容...或者哪位大哥可以说清楚一下,不胜感激!!!
    google搜索的时候发现 Pro .Net Performance: Optimize Your C# Applications,这本书很屌啊!!!,绝壁值得一看,就是英文不行,求中文版啊!!!,好想吐槽一下国内的垃圾编辑或作者,好的书一本都不翻译,垃圾玩意全翻译过来。
    http://codingsight.com/precise-computation-of-clr-object-size/

    https://stackoverflow.com/questions/38056513/why-does-windbg-show-system-int32-variables-as-24-bytes

    死循环调试分析

    clrthreads -live 先看看还在运行的线程有那些。然后通过thread select 线程编号(lldb命令)。来切换到当前线程。线程编号不是列表种的id字段,而是最前面一行的id。lldb 可以通过thread list命令来列举所有线程。


    剩下的工作就是体力活动拉,一个一个看,一个一个分析。
    比如,我们切换到线程3看一看他当前的堆栈信息
    clrstack命令可以查看当前线程在托管代码种的堆栈信息。
    dumstack则可以看到非托管代码种的堆栈信息
    thread backtrace lldb查看堆栈信息的命令。


    线程3,能看到当前栈在非托管代码中(libcoreclr.so!TwoWayPipe::WaitForConnection),看方法名字也能猜到干嘛的,不太像我们的目标。
    另外,linux下面
    ps -T -p 32728 命令可以查看到进行下线程的基本情况
    top -H -p 32728 更happy。
    所以在排查高cpu问题的时候能提供许多便利性,反而比内存问题要来得方便很多。(图中的pid等数据不是一致性的。因为在写blog的时候图片是多次截取的。)


    所以在dump包的时候可以记录下来高cpu的线程id,然后通过thread select 找到对应的线程编号。在然后直接切换过去看一看就完事拉。
    所以 thread select 30
    clrstack看一看,嗯!当前线程在 linxu_dump_lldb.Controllers.ValuesController+<>c.<begin_cpu>b__1_0() [C:Usersczd89source eposConsoleApp4linxu_dump_lldbControllersValuesController.cs @ 31]。

    看一看当前栈上面都有一些上面参数
    CLRStack [-a] [-l] [-p];-p:看参数,-l:看局部变量,-a:=-l+-p;


    当然,我们的代码是异步的,也没有捕获任何action里面的变量,所以这里的这个参数,以及参数里面的属性啥都没有。
    从dll反编译代码也能和我们lldb看到的东西一一对以上。

    内存泄漏调试分析结论

    到这里,问题就很明显能看出来了,当然主要还是我们的DEMO是最简单的。还是开篇说过的那句话:通常正常情况下,分析个几天才能得出一个结论的的结果都还是比较令人开心的!,很多时候分析来分析去也搞不出个所以然,也是很正常的(当然,也是自己学艺不精(_),当自勉!)
    还能看一看具体方法的汇编代码等信息。

    参考资料:
    https://docs.microsoft.com/en-us/dotnet/framework/tools/sos-dll-sos-debugging-extension
    https://github.com/dotnet/coreclr/blob/master/Documentation/building/debugging-instructions.md
    https://lldb.llvm.org/tutorial.html
    https://stackoverflow.com/questions/38056513/why-does-windbg-show-system-int32-variables-as-24-bytes
    http://codingsight.com/precise-computation-of-clr-object-size/
    https://zhuanlan.zhihu.com/p/20838172
    https://blog.csdn.net/inuyashaw/article/details/55095545

  • 相关阅读:
    汇编语言之第三章寄存器(内存访问)
    汇编语言之第一章基础知识
    汇编语言之实验二
    python爬虫——利用BeautifulSoup4爬取糗事百科的段子
    电子表格拼接助手
    龙龙背作文V1.0——考研英语作文专项训练软件
    龙龙记单词V1.1——更美,更多,更强
    书签小助手V1.0发布了
    龙龙排短文V1.0——考研英语排序题专项训练软件
    保定市公交换乘离线查询系统
  • 原文地址:https://www.cnblogs.com/panpanwelcome/p/14296824.html
Copyright © 2020-2023  润新知