• 如何实现一个IOS网络监控组件


    此文由作者朱志强授权网易云社区发布。


    Mobile Application Monitor IOS组件设计技术分享

    背景

    应用程序性能管理Application Performance Management(APM)是近年来比较火的互联网产业, Mobile Application Monitor(MAM)是其核心功能之一。 APM主要指对企业的关键业务应用进行监测、优化,它可以提高企业应用的可靠性和质量,保证用户得到良好的服务,降低IT总拥有成本(TCO)。 一个企业的关键业务应用的性能强大,可以提高竞争力,并取得商业成功,因此,加强应用性能管理可以产生巨大商业利益。 目前成熟的产品有:
    AppDynamics NewRelic.png Tingyun.png

    目标

    • iOS客户端的网络统计组件,用于统计iOS app的http请求的数据,如请求时间,数据,错误

    • 设计一个可复用的框架,方便后续添加帧率、用户体验等监测内容

    • 对应用的影响尽可能小,使用方便

    设计模型

    处理数据分4步:
    数据收集,数据组装,数据持久化,数据发送
    线程模型:
    数据收集负责初始化MAMDataBuilder,在持久化层队列完成数据组装和数据库插入操作。
    满足发送数据条件时,首先持久化层队列从数据库查找数据,然后在发送层队列中发送数据,发送结束后在持久化层队列删除该条数据,再处理下一个数据。
    下图使用图形演示了程序执行过程,灰色矩形代表API接口
    PosterPostRule.png

    本文主要针对常用网络技术的拦截技术做全面细致的讲解和分析。

    数据收集Hooker

    针对IOS主要的网络技术:NSURLConnection和CFNetwork的HTTP请求做数据收集

    NSURLConnection的hook

    对Objective-C对象发送消息的拦截

    • 技术背景

      • Runtime
        Objective-C是一门运行时语言,它会尽可能地把代码执行的决策从编译和链接的时候,推迟到运行时。 这样对写代码带来很大的灵活性,比如说可以把消息转发给你想要的对象,或者随意交换一个方法的实现。 Method Swizzling正是使用交换方法实现的方式来达到hook的目的。

      • 动态绑定
        在编译的时候,我们不知道最终会执行哪一些代码,只有在执行的时候,通过selector去查询,我们才能确定具体的执行代码。
        Objective-C的方法类型是SEL(selector)。实例对象performSelector时,会在各自的消息选标(selector)/实现地址(address) 方法链表中根据 selector 去查找具体的方法实现(IMP), 然后用这个方法实现去执行具体的实现代码。

      • IMP类型
        IMP 是消息最终调用的执行代码的函数指针,可以理解为Objective-C的每个方法都会在编译时被转换成C函数,IMP就是这个C函数的函数指针,下面会演示调用这个IMP和调用Objective-C方法是等效的。 一个Objective-C方法:

        -(void)setFilled:(BOOL)arg;

        它的Objective-C调用方式会是:

        [aObject setFilled:YES];

        调用基类NSObject的方法- (IMP)methodForSelector:(SEL)aSelector得到IMP

        void (*setter)(id, SEL, BOOL);  
        setter = (void (*)(id, SEL, BOOL))[self methodForSelector:@selector(setFilled:)];

        等价的C调用是对IMP(函数指针)的调用:

        setter(self, @selector(setFilled:), YES)
    • Method Swizzling
      正常情况,我们无法知道系统方法在何时被调用,但替换掉系统方法的代码实现,就可以获取系统方法的调用时机,这就是Method Swizzling!
      如下图,修改selector对应的IMP为保存原IMP的函数,这样就实现了对系统调用的hook。 屏幕快照 2015-06-29 上午11.23.35.png

    • 代码演示
      Method Swizzling核心代码:

      BOOL HTSwizzleMethodAndStore(Class class, BOOL isClassMethod, SEL original, IMP replacement, IMP* store) {
        IMP imp = NULL;
        Method method ;  if (isClassMethod) {
            method= class_getClassMethod(class, original);
        }else{
            method= class_getInstanceMethod(class, original);
        }  if (method) {
            imp = method_setImplementation(method,(IMP)replacement);      if (!imp) {
                imp = method_getImplementation(method);
            }
        }else{
            MAMLog(@"%@:not found%@!!!!!!!!",NSStringFromClass(class),NSStringFromSelector(original));
        }  if (imp && store) { *store = imp; }//将原方法放在store中
        return (imp != NULL);
      }

      声明函数指针IMP store,实现函数MAM IMP

      static NSURLConnection * (*Original_connectionWithRequest)(id self,
                                                          SEL _cmd,                                                    NSURLRequest *request,                                                    id delegate);static NSURLConnection * MAM_connectionWithRequest(id self,
                                                            SEL _cmd,                                                      NSURLRequest *request,                                                      id delegate){  //使用系统方法的函数指针完成系统的实现
        id result = Original_connectionWithRequest(self,
                                              _cmd,
                                              request,
                                              hookDelegate);//在这里获取到了系统方法调用的时机
        return result;
      }

      在程序启动后调用Swizzling

      HTSwizzleMethodAndStore(NSClassFromString(@"NSURLConnection"),
                                YES,                          @selector(connectionWithRequest:delegate:),
                                (IMP)MAM_connectionWithRequest,
                                (IMP *)&Original_connectionWithRequest);
    • 对委托模型的监控
      Runtime替换方法时需要指定类名,而NSURLConnection的delegate的类并不确定。如果还是使用Method Swizzling拦截delegate的消息,每多一个使用NSURLConnectionDelegate的类都需要动态声明一次IMP store和MAM IMP,效率太低。
      解决办法是使用proxy delegate替换NSURLConnection原来的delegate。只要保证proxy delegate将所有接收到的网络回调,转发给原来的delegate就好了。 NSURLConnectionHook.png

    CFNetwork的hook

    对C函数调用的拦截

    • 技术背景

      • 使用Dynamic Loader hook 库函数 ---- fishhook
        Dynamic Loader (dyld)通过更新Mach-O文件中保存的指针的方法来绑定符号。借用它,可以在运行时修改C函数调用的函数指针!
        fishhook查找函数符号名的过程见下图
        fishhook.png
        上图中,1061是间接符号表(Indirect Symbol Table)的偏移量,存放的符号表(Symbol Table)偏移量16343。
        符号表中包含了字符表(String Table)偏移量,然后找到中真实符号名(Actual Symbol Name),fishhook对间接符号表的偏移量做了修改,这样就修改了字符表偏移量,指向字符表中的真实符号名发生了变化,最终,通过修改真实符号名修改了真实调用函数的指针,达到hook的目的。

      • Stream的read size和Toll-Free Bridge
        CFNetwork使用CFReadStreamRef做数据传递,其接收服务器响应的方式是使用回调函数。获取服务器数据的方式是,当回调函数收到流中有数据的通知后,从流中读取数据,保存在客户端内存中。
        对流的读取不适合使用修改字符串表的方式,这样做需要hook 系统也在使用的read函数,而系统的read函数不仅仅被网络请求的stream调用,还有所有的文件处理,并且hook一个频繁调用的函数也是不可取的!
        但是怎么才能只针对网络请求的stream做处理呢,对一个C类型真的是很难,但是倘若对一个对象而言,我们有很多办法可以用,能不能转换呢?
        能,用Toll-Free Bridge!有了它,就可以将CFReadStreamRef类型直接转换成NSInputStream对象!!
        Toll-Free Bridge可以将Cocoa对象转换为CoreFoundation类型,查看CFReadStreamRead源码:

        CFIndex CFReadStreamRead(CFReadStreamRef readStream, UInt8 *buffer, CFIndex bufferLength) {
        CF_OBJC_FUNCDISPATCH2(__kCFReadStreamTypeID, CFIndex, readStream, "read:maxLength:", buffer, bufferLength);

        函数的第一行调用的是Cocoa的方法read:maxLength:,这就确认了Toll-Free Bridge的实现机制——用Objective-C实现了一个可以用纯C调用的类库。
        最后,这样设计被监控的stream:
        CFReadStreamTollFridge1.png这样就成功地将hook一个C函数的问题转变成了hook一个Objective-C方法的问题,但是,NSInputStream仍然是一个底层的公共类,仍然需要对系统的read方法做hook,能不能只针对某个stream对象进行hook呢?
        能,用Trampoline!

      • Objective-C消息转发机制和Trampoline ---- 对指定对象的hook
        当某个实例对象接收到一个消息,但是没有找到这个消息的实现时,会调用下面的两个方法,给开发者提供了转发消息的选择

        -(NSMethodSignature *)methodSignatureForSelector:(SEL)aSelector;
        -(void)forwardInvocation:(NSInvocation *)anInvocation;

        借用转发机制,可以实现对指定对象的hook:
        设计一个继承自NSObject的Proxy类,持有一个NSInputStream,记为OriginalStream。
        使用上面的方法中将发向Proxy的消息转发给OriginalStream。这样一来,所有发向Proxy的消息的都由OriginalStream处理了。再重写NSInputStream read方法就可以获取到stream的size了。这种修改程序执行方向的设计就称为Trampoline,它的本意是蹦床,象征着将方法反弹给真正的接收对象。
        MAMNSStreamProxy的核心代码:

        -(instancetype)initWithClient:(id*)stream
        {if (self = ![super init])
        {
        _stream = ![stream retain];
        }return self;
        }
        -(NSMethodSignature *)methodSignatureForSelector:(SEL)aSelector
        {return ![_stream methodSignatureForSelector:aSelector];
        }
        -(void)forwardInvocation:(NSInvocation *)anInvocation
        {
        ![anInvocation invokeWithTarget:_stream];
        }
        -(NSInteger)read:(uint8_t *)buffer maxLength:(NSUInteger)len
        {
        NSInteger rv = [_stream read:buffer maxLength:len];//在这里记录sizereturn rv;
        }
    • 代码演示
      和Method Swizzling类似,需要声明函数指针和函数的实现:

      static CFReadStreamRef(*original_CFReadStreamCreateForHTTPRequest)(CFAllocatorRef alloc,
                                                 CFHTTPMessageRef request);/**
      *  MAMNSInputStreamProxy持有original CFReadStreamRef,转发消息到original CFReadStreamRef,在方法 read 中获取数据大小。
      *  以original CFReadStreamRef为键,保存CFHTTPMessageRef request
      */static CFReadStreamRefMAM_CFReadStreamCreateForHTTPRequest(CFAllocatorRef alloc,
                                         CFHTTPMessageRef request){ //使用系统方法的函数指针完成系统的实现
       CFReadStreamRef originalCFStream = original_CFReadStreamCreateForHTTPRequest(alloc,
                                                                                    request); //将CFReadStreamRef转换成NSInputStream,保存在MAMNSInputStreamProxy中,返回的时候再转换成CFReadStreamRef
       NSInputStream *stream = (__bridge NSInputStream*)originalCFStream;
       MAMNSInputStreamProxy *outReadStream = ![![MAMNSInputStreamProxy alloc] initWithStream:stream];  /*内存管理, create的CF stream ref转成NS stream proxy,CF不再引用,使用结束后release掉*/
       CFRelease(originalCFStream); /*内存管理,ARC转交引用管理给CF*/
       CFReadStreamRef result = (__bridge_retained CFReadStreamRef)((id)outReadStream); return result;
      }

      使用fishhook替换函数地址

      save_original_symbols();int bFishHookWork = rebind_symbols((struct rebinding![1])
       {{"CFReadStreamCreateForHTTPRequest", MAM_CFReadStreamCreateForHTTPRequest},},1);
      void save_original_symbols(){
       original_CFReadStreamCreateForHTTPRequest = dlsym(RTLD_DEFAULT, "CFReadStreamCreateForHTTPRequest");
      }
    • 数据拦截模型
      根据CFNetwork API 的调用方式,使用fishhook和proxyStream获取C函数的设计模型如下:
      CSReadStreamReadSize.png



    更多网易技术、产品、运营经验分享请访问网易云社区

    相关文章:
    【推荐】 【0门槛】PR稿的自我修养
    【推荐】 Android app如何加密?
    【推荐】 Jmeter压测Thrift服务接口

  • 相关阅读:
    MySQL主从复制搭建
    CSS基本样式简单介绍
    前端代码编码规范
    Markdown语法简单介绍
    Java API 操作Redis
    Java API 操作Zookeeper
    MySQL优化
    ES 可视化工具
    消息队列MQ
    Docker基础
  • 原文地址:https://www.cnblogs.com/163yun/p/10102430.html
Copyright © 2020-2023  润新知