远程网络时间同步在分布式测控与实时仿真系统应用
安徽京准电子科技官微——ahjzsz
一、分布式测控系统和实时仿真系统简介
分布式测控系统通常由多个子系统组成,他们之间协调工作,共同完成测控任务,分布式测控系统可缓解单机测控系统的负担。随着测控技术的日益发展和成熟,现代工程试验,尤其是大型军工试验中,需要测试、控制的项目种类越来越多,对各种测控项目的实时性、同步性和测控精度等都提出了更高的要求。
分步式实时仿真系统采用一致的结构、标准和算法,通过网络将分散在不同地理位置的不同类型的仿真应用和真实世界互联,支持异地分布的真实的、虚拟的和异构的平台级仿真应用之间的数据交换和互操作,建立一种人可以参与交互的综合仿真环境。由于试验场地面积有限,各大型仿真非标设备常分布于不同楼宇的试验室内,完成仿真试验需要多楼宇、多试验室跨域联合进行。这对多试验室远程互连及并行试验提出了迫切的需求,而远程协同仿真技术中的数据实时交互技术是解决上述问题的关键。
二、分布式实时仿真系统对远程时间同步的需求
分布式仿真技术结合了计算机网络技术与虚拟现实技术,采用协调一致的结构、标准、协议和数据库,通过局域网/广域网将各个仿真节点的软件、硬件和仿真环境整合为一体,共同完成仿真任务。随着虚拟现实技术的不断发展和完善,分布式仿真技术对连接各仿真节点的通信网络在实时性、传输速率、传输数据多样性等方面提出了更高的要求。
1、系统时间同步
在分布式实时仿真系统中,系统的各部分之间的远程时间同步非常重要。例如图形工作站、驱动控制系统、仿真机、主控机、转台控制计算机等设备之间的时间同步,以及如何确定仿真开始时间、如何确定图形生成开始时间、如何确定数据传输时间、如何及时读取数据等都是需要面临的问题。
2、仿真时间同步
统一的时间周期起始点是保证仿真正常推进,数据真实可靠的基础。仿真同步性要求仿真各个节点在统一的时间周期起始点,并且按照规定的仿真步长向前推进。统一的时间周期起始点是指系统运行仿真各个子节点需要采用统一的时刻作为仿真起始时间戳,之后各节点的仿真步长均在这个仿真起始时间戳的基础上累加。
三、分布式实时仿真系统的解决方案
在现代测试系统中,怎样保证各个模块之间的同步以及测量的实时性是一个非常重要的课题,光纤反射内存网络(RMN,Reflective Memory Network)因为内在的延迟确定、延迟时间短、支持跨平台等特点在实时系统中得到了广泛的应用。可采用光纤集线器(光纤HUB)进行实时光纤反射内存网络硬件平台搭建,实现多试验室协同试验仿真。
光纤反射内存网是一种共享存储器数据的高速实时计算机网络。光纤反射内存网实际上是在每台被连接的计算机里都安装一块反射内存卡,各反射内存卡通过光纤进行连接。
基于光纤反射内存网进行远程异地协同仿真,很好解决了试验室设备互联及高速实时数据共享的问题,大大地提高了半实物仿真试验室光纤组网及布线的灵活性,可以实现20km级的跨区域的低延迟实时数据共享,使试验室具备了多试验室远程协同并行开展多项试验的能力,同时具备单一试验室同时服务于多个试验的能力。
1、光纤反射内存网的工作原理
基于内存共享技术的光纤反射内存网是由计算机节点互联构成的实时网络。组成光纤反射内存网,需要在每台计算机中插入反射内存卡,这样计算机和反射内存卡就构成了光纤反射内存网的各个节点。各个节点之间通过光纤等传输介质连接而成。为了节省成本,距离较近的(300m以内)设备采用多模光纤连接到本地光纤HUB,相距较远的(300m~20Km)设备采用单模光纤连接。
每个节点的反射内存卡的存储器中都有其他节点的反射内存卡的共享数据的拷贝。每个节点包括一个反射内存板,每个反射内存板配备一个大容量的双口存储器。双口存储器的一端连接到计算机的本地总线,另一端经过FIFO、编码/解码、并/串变换等处理后,连接到光纤。网络上每个反射内存板都占有一段内存地址,任何时刻网上任何计算机向本地反射内存板写数据时,该数据和相应的内存地址将在极短时间内被广播到网上其他所有反射内存板并存储在相同的位置。并且,所有节点的更新时间与网络上实际连接的节点数量无关。每个节点的光纤接口板的板载存储器都可由其他节点共享,因此在逻辑上全网的所有节点共享同一块存储器。数据一点写入,多点同时更新,通过这种广播式方式实现了数据的高速传输与共享。反射内存网具有确定的非常小的数据延迟。两个节点之间的数据传输延迟只有400ns。因此,在一个节点数目固定的环形网络上,任意两个节点之间的数据传输延迟都是确定的,并且是可以计算的。
光纤反射内存网的核心器件是光纤反射内存网络接口板,可采用VME、PCI、CPCI、PMC等总线构架,负责连接计算机与光纤网络。整个光纤网络通过光纤和光纤反射内存网络接口板连接在一起。计算机通过对接口板的操作来完成对共享存储器的写入和读取。以GE公司PCI5565型接口板为例,最大可支持共享内存256MB,网络可容纳256个节点,理论最大传输速率可达到170MB/s,实际的点对点测试结果高达80MB/s。
在光纤反射内存网络中,反射内存在物理上分布于各个计算机中(反射内存卡中),逻辑上共享同一段内存地址。任何一台计算机都可以像访问普通内存一样方便地访问共享的反射内存。由于反射内存网络采用了简化的网络协议,所以具有非常高的传输速度,完全满足如红外图像实时生成系统等对实时性要求很高的仿真系统的要求。
2、光纤反射内存网的拓扑结构
光纤反射内存网的物理拓扑结构主要有两种:一种为环形拓扑;另一种为星型拓扑。如果选用环型拓扑连接,网上所有的反射内存板将通过光纤串联起来。如果采用星型拓扑连接,网上所有的反射内存板将连接到光纤HUB上的自动光纤旁路板。这种星型连接只是物理上的星型连接,从逻辑上看还是环形连接。
图1 环型光纤反射网示意图
图2 星型光纤反射网示意图
环型反射内存网络的优点是整个网络不需要额外的集线器资源,并且光纤使用数量比星型少一半左右,成本很低。其缺点是当环型网络中的一个节点发生故障,则整个反射内存网络都会瘫痪。星型连接则采用光纤集线器(也称为光纤交换机)作为数据中继转发设备,网络中每个节点先将数据传输到集线器,集线器将数据进行相应处理后,再同时转发给其它节点。光纤集线器的使用,可以对数据流进行实时监视,旁路错误节点,并且数据更新时间大大缩短。总体来讲,环形拓扑比星形拓扑更适合反射内存网。
四、远程时间同步解决方案
为了解决分布式测控系统和实时仿真系统远程时间同步的问题,公司提出在基于光纤反射内存网络的基础上,采用TFT系列高精度光纤时间频率传递设备和时统信号接收子板(PCI或PCIe)的方式,实现分布式测控系统和实时仿真系统的时间同步。
整个时统设备由主站时钟、从站时钟、光纤集线器、时统信号接收子板(PCI或PCIe)和配套连接光缆构成,如图3所示。
时统设备通过高性能的原子钟和光纤交换传递,给出精确的时间或确定的时间基准,满足系统内部各用户之间的高精度时间同步要求,另外通过北斗/GPS卫星授时手段实现可实现与系统其它部门、单元之间的远距离时间同步和协同。
主站时钟输出高精度时频信号的参考源,经过光纤传输给从站时钟,再经光纤传送到时统信号接收板卡。时统信号接收子板获取、解析主站时钟下发的时频信息,通过计算处理,为用户提供标准的时间信息和用户设定的时钟同步中断信号,供用户实时仿真系统数据同步使用。光纤集线器主要用于实时仿真系统中多块光纤反射内存网络接口板进行组网。此外,公司还提供专用的便携式检测调试设备,用于复现主时钟信号,供给平时检测、调试使用。
图3 时统设备组网示意图
采用公司的远程时间信号同步解决方案,实现的测控系统和仿真系统在时统性能方面可以达到以下技术指标:
- 时钟同步精度优于±10ns;
- 帧时钟(0.2ms)传输延迟小于10μs;
- 授时设备主站时钟源稳定性优于1×10-11/日(卫星信号锁定);
- 时标同步网络上,各个时统信号接收板卡生成的本地同步中断或同步脉冲之间的误差不超过40ns;
- 同步时钟信号最小输出间隔周期不大于10μs;
- 时统信号接收板卡支持的实时光纤网络通讯速率不小于2.125Gbps;
- 时钟信号最大传输距离不小于5km(不考虑时钟信号传输延时)。