• WebRtc(网页即时通讯技术)知识点总结


    前言

    WebRTC,名称源自网页实时通信(Web Real-Time Communication)的缩写,简而言之它是一个支持网页浏览器进行实时语音对话或视频对话的技术。并且还支持跨平台:windows,linux,mac,android,iOS。

    实现原理

    P2P连接模式

    一般我们传统的连接方式,都是以服务器为中介的模式:

    类似http协议:客户端<——>服务端(当然这里服务端返回的箭头仅仅代表返回请求数据)。

    进行即时通讯时,进行文字、图片、录音等传输的时候:客户端A——服务器——客户端B。

    而点对点的连接恰恰数据通道一旦形成,中间是不经过服务端的,数据直接从一个客户端流向另一个客户端:

    客户端A——客户端B ... 客户端A——客户端C ...(可以无数个客户端之间互联)

    这个过程就像音视频通话的应用场景,我们服务端确实是没必要去获取两者通信的数据,而且这样做有一个最大的一个优点就是,大大的减轻了服务端的压力。

    而WebRTC就是这样一个基于P2P的音视频通信技术。

    客户端A与B建立p2p连接的过程

    1.A和B连接上服务端,建立一个TCP长连接(任意协议都可以,WebSocket/MQTT/Socket原生/XMPP),为了省事,直接采用WebSocket,这样一个信令通道就有了。

    2.A从服务器获得ice server同时生成包含session description(SDP)的offer,发送给Socket服务端。

    3.Socket服务端把A的offer和candidate转发给B,B会保存下A这些信息。

    4.然后B发送包含自己session description的answer(因为它收到的是offer,所以返回的是answer,但是内容都是SDP)和ice candidate给Socket服务端。

    5.Socket服务端把B的answer和ice candidate给A,A保存下B的这些信息。

    WebRTC的服务器
    WebRTC至少有两件事必须要用到服务器:
    1、客户端之间交换建立通信的元数据(信令)必须通过服务器。
      我们在A和B需要建立P2P连接的时候,至少要服务器来协调,来控制连接开始建立。而连接断开的时候,也需要服务器来告知另一端P2P连接已断开
    2、为了穿越NAT和防火墙。
    如果客户端A想给客户端B发送数据,则数据来到客户端B所在的路由器下,会被NAT阻拦,这样B就无法收到A的数据了 。
     webrtc是通过 ICE 这套框架来处理复杂的网络环境,
    如果想启用这个功能,你必须让你的应用程序传 服务器的URL:
      ICE试着找最好的路径来让客户端建立连接,他会尝试所有可能的选项,然后选择最合适的方案,
      ICE首先尝试P2P连接,如果失败就会通过Turn服务器进行转接。
     
    信令的作用
    用来控制通信开启或者关闭的连接控制消息
    发生错误时用来彼此告知的消息
    媒体流元数据,比如像解码器、解码器的配置、带宽、媒体类型等等
    用来建立安全连接的关键数据
    外界所看到的的网络上的数据,比如IP地址、端口等


    信令的类型

    Offer:建立点对点的连接时,发起端(A客户端)需要发送的信令
    Answer:建立点对点的连接时,被叫端(B客户端)需要发送的信令
    Bye:点对点的连接断开时,发送的信令
     

    会话描述协议(Session Description Protocal,简称SDP)

    信令的主要内容的格式都遵循会话描述协议

    1) 会话的名称和目的
    2) 会话存活时间
    3) 包含在会话中的媒体信息,包括:
    媒体类型(video, audio, etc)
    传输协议(RTP/UDP/IP, H.320, etc)
    媒体格式(H.261 video, MPEG video, etc)
    多播或远端(单播)地址和端口
    4) 为接收媒体而需的信息(addresses, ports, formats and so on)
    5) 使用的带宽信息
    6) 可信赖的接洽信息

    一个SDP的信令的内容大致上如下:

    实时传输控制协议(Real-time ControlProtocol,RTCP)

    RTP/RTCP协议是流媒体通信的基石。RTP协议定义流媒体数据在互联网上传输的数据包格式,而RTCP协议则负责可靠传输、流量控制和拥塞控制等服务质量保证。在WebRTC项目中,RTP/RTCP模块作为传输模块的一部分,负责对发送端采集到的媒体数据进行进行封包,然后交给上层网络模块发送;在接收端RTP/RTCP模块收到上层模块的数据包后,进行解包操作,最后把负载发送到解码模块。因此,RTP/RTCP 模块在WebRTC通信中发挥非常重要的作用。

       Sdp协议内规定的视频传输控制协议就是rtcp

  • 相关阅读:
    【超分辨率】—基于深度学习的图像超分辨率最新进展与趋势
    【超分辨率】—超分辨率补充问题
    随机采样一致算法RANSAC
    【相机篇】从到FlyCapture2到Spinnaker
    【超分辨率】—(ESRGAN)增强型超分辨率生成对抗网络-解读与实现
    AI佳作解读系列(六) - 生成对抗网络(GAN)综述精华
    AI佳作解读系列(五) - 目标检测二十年技术综述
    TroubleShooting经验总结
    读书笔记 - 《深度学习之美》(更新中...)
    深度学习中那些有趣的定理或理论
  • 原文地址:https://www.cnblogs.com/liyy2015/p/8118954.html
Copyright © 2020-2023  润新知