• WebRTC 介绍 (转)


          google开源了WebRTC项目,网址是:http://code.google.com/p/webrtc/

      WebRTC实现了基于网页的视频会议,标准是WHATWG 协议,目的是通过浏览器提供简单的javascript就可以达到实时通讯(Real-Time Communications (RTC))能力。

      通过对源码的粗略分析,WebRTC提供了视频会议的核心技术,包括音视频的采集、编解码、网络传输、显示等功能,并且还支持跨平台:windows,linux,mac,android。

      WebRTC的视频处理分析(windows平台)

      WebRTC的视频部分,包含采集、编解码(I420/VP8)、加密、媒体文件、图像处理、显示、网络传输与流控(RTP/RTCP)等功能。

      视频采集---video_capture

      源代码在webrtcmodulesvideo_capturemain目录下,包含接口和各个平台的源代码。
      在windows平台上,WebRTC采用的是dshow技术,来实现枚举视频的设备信息和视频数据的采集,这意味着可以支持大多数的视频采集设备;对那些需要单独驱动程序的视频采集卡(比如海康高清卡)就无能为力了。
      视频采集支持多种媒体类型,比如I420、YUY2、RGB、UYUY等,并可以进行帧大小和帧率控制。

      视频编解码---video_coding
      源代码在webrtcmodulesvideo_coding目录下。
      WebRTC采用I420/VP8编解码技术。VP8是google收购ON2后的开源实现,并且也用在WebM项目中。VP8能以更少的数据提供更高质量的视频,特别适合视频会议这样的需求。

      视频加密--video_engine_encryption
      视频加密是WebRTC的video_engine一部分,相当于视频应用层面的功能,给点对点的视频双方提供了数据上的安全保证,可以防止在Web上视频数据的泄漏。
      视频加密在发送端和接收端进行加解密视频数据,密钥由视频双方协商,代价是会影响视频数据处理的性能;也可以不使用视频加密功能,这样在性能上会好些。
      视频加密的数据源可能是原始的数据流,也可能是编码后的数据流。估计是编码后的数据流,这样加密代价会小一些,需要进一步研究。

      视频媒体文件--media_file
      源代码在webrtcmodulesmedia_file目录下。
      该功能是可以用本地文件作为视频源,有点类似虚拟摄像头的功能;支持的格式有Avi。
      另外,WebRTC还可以录制音视频到本地文件,比较实用的功能。

      视频图像处理--video_processing
      源代码在webrtcmodulesvideo_processing目录下。
      视频图像处理针对每一帧的图像进行处理,包括明暗度检测、颜色增强、降噪处理等功能,用来提升视频质量。

      视频显示--video_render
      源代码在webrtcmodulesvideo_render目录下。
      在windows平台,WebRTC采用direct3d9和directdraw的方式来显示视频,只能这样,必须这样。

      网络传输与流控
      对于网络视频来讲,数据的传输与控制是核心价值。WebRTC采用的是成熟的RTP/RTCP技术。

      WebRTC的音频处理分析(windows平台)

      WebRTC的音频部分,包含设备、编解码(iLIBC/iSAC/G722/PCM16/RED/AVT、NetEQ)、加密、声音文件、声音处理、声音输出、音量控制、音视频同步、网络传输与流控(RTP/RTCP)等功能。

      音频设备---audio_device
      源代码在webrtcmodulesaudio_devicemain目录下,包含接口和各个平台的源代码。
      在windows平台上,WebRTC采用的是Windows Core Audio和Windows Wave技术来管理音频设备,还提供了一个混音管理器。
      利用音频设备,可以实现声音输出,音量控制等功能。

      音频编解码---audio_coding
      源代码在webrtcmodulesaudio_coding目录下。
      WebRTC采用iLIBC/iSAC/G722/PCM16/RED/AVT编解码技术。
      WebRTC还提供NetEQ功能---抖动缓冲器及丢包补偿模块,能够提高音质,并把延迟减至最小。
      另外一个核心功能是基于语音会议的混音处理。

      声音加密--voice_engine_encryption
      和视频一样,WebRTC也提供声音加密功能。

      声音文件
      该功能是可以用本地文件作为音频源,支持的格式有Pcm和Wav。
      同样,WebRTC也可以录制音频到本地文件。

      声音处理--audio_processing
      源代码在webrtcmodulesaudio_processing目录下。
      声音处理针对音频数据进行处理,包括回声消除(AEC)、AECM、自动增益(AGC)、降噪处理等功能,用来提升声音质量。

      网络传输与流控
      和视频一样,WebRTC采用的是成熟的RTP/RTCP技术。

      WebRTC的官网是http://www.webrtc.org/,其中的FAQ解答了很多大家关心的问题。有这么几点可以关注:
      1.license
      采用BSD licenses,可以用于商业软件;即使你修改了源代码,也不必公开你修改的部分。

      2.为什么WebRTC要免费
      音视频针对目前的互联网应用,还是至关重要的。google这样做的目的,无非是吸引大量的开发者在chrome平台上开发音视频相关应用,和当年微软windows集成IE是一个道理。

      3.下载和编译
      a).下载google的源码工具depot_tools:
      svn co http://src.chromium.org/svn/trunk/tools/depot_tools
      并把depot_tools添加到系统的环境变量PATH里;
      b).下载git工具:并把git添加到系统的环境变量PATH里;
      c).创建webrtc工作目录,并在该目录下运行:
      gclient config https://webrtc.googlecode.com/svn/trunk
      gclient sync --force
      
      sync命令也会产生基于本地环境(Linux:make, OSX: XCode, Windows: Visual Studio)的build文件。

      也可以用命令:
      gclient runhooks --force

      对windows平台,在trunk目录下,已经有针对Visual Studio的工程文件:
      webrtc.sln

      好了,打开它,这就可以编译了。
      
      注:webrtc默认使用了C:Program FilesMicrosoft SDKsWindowsv7.1Samplesmultimediadirectshowaseclasses。我的机器上只有v7.0的sdk,于是构造了一个v7.1的目录,仅包含Samplesmultimediadirectshowaseclasses。

  • 相关阅读:
    hdu 1402 大数A*B模板(FFT)
    ccpc 哈尔滨L题 LRU Algorithm
    今年得慢慢学的
    Codeforces Round #629 (Div. 3) E. Tree Queries(LCA)
    Codeforces Global Round 7 D2. Prefix-Suffix Palindrome (Hard version) -- manacher
    hdu 3068 (manacher算法)
    用Socket API建立简易tcp服务端和客户端
    Win下建立Socket时注意事项
    线段树(Segment Tree)
    Codeforces Round #643 (Div. 2)
  • 原文地址:https://www.cnblogs.com/happykoukou/p/5707867.html
Copyright © 2020-2023  润新知