• 第五篇 openvslam建图与优化模块梳理


    建图模块

    mapping_module在初始化系统的时候进行实例化,在构建实例的时候会实例化local_map_cleaner和local_bundle_adjuster。系统启动的时候会在另外一个线程中启动该模块。

    // src/openvslam/system.cc:78
    mapper_ = new mapping_module(map_db_, camera_->setup_type_ == camera::setup_type_t::Monocular);
    
    // src/openvslam/system.cc:123
    mapping_thread_ = std::unique_ptr<std::thread>(new std::thread(&openvslam::mapping_module::run, mapper_));
    

    对新增的关键帧进行建图

    // src/openvslam/mapping_module.cc:128
    void mapping_module::mapping_with_new_keyframe()
    
    对新增的关键帧进行建图mapping_with_new_keyframe
        取出队列中最早放入的关键帧
        设置原始关键帧ID
        将新关键帧保存入数据库store_new_keyframe
            计算当前关键帧的BoW特征向量
            获取当前关键帧的lm
            如果当前关键帧可以观测到该lm,将lm添加入local_map_cleaner的fresh_landmarks中
            否则
                添加lm的观测
                更新lm几何信息
                计算lm的描述子
            更新图连接update_connections
                获取图关键帧所有lm
                统计出共视关键帧以及共视lm数量情况,筛选出共视lm大于15的关键帧weight_covisibility_pairs
                寻找出共视lm数量最多的关键帧当做最近的共视关键帧
                图中添加连接add_connection
                对weight_covisibility_pairs进行降序排列,更新ordered_covisibilities_和ordered_weights_
                更新生成树。最近的共视关键帧设置为父树,当前关键帧为子树
            存储关键帧
        去除冗余的lm(remove_redundant_landmarks)
            移除的逻辑
            1. observed_ratio小于观测门限,需要从局部地图buffer和数据库中移除;
            2. 如果lm被添加之后一段时间内,被观测到的其他帧观测到的次数<=2,则认为时无效帧,需要从局部地图buffer和数据库中移除;
            3. 如果lm被添加之后一段时间内被多次观测到,则认为该lm有效,只从局部地图buffer中移除;
        依据当前关键帧和共视关键帧重新三角化lm(create_new_landmarks)
            获取当前关键帧权重高的共视关键帧
            逐个计算当前关键帧与共视关键帧之间的本质矩阵
            利用本质矩阵计算出两关键帧lm的匹配情况
            三角化匹配的lm,三角化成功的点将添加入库
        检测处理重复的lm(update_new_keyframe)
            获取两层共视关键帧
            融合重复的lm(fuse_landmark_duplication)
                获取当前帧的lm
                逐个共视关键帧去重(replace_duplication)
                    如果lm没有被共视关键帧观测到
                    将lm重投影至该共视关键帧,提取共视关键帧投影区域附近的特征点,如果相似度很高且重投影误差很小,
                    使用共视关键帧的lm点取代当前的lm,如果共视关键帧没有对应的lm则把当前lm添加到共视关键帧
                获取所有共视关键帧的lm集合再次进行去重(replace_duplication)
                    这里和上面去重输入参数是不一样的,这里的关键帧是当前关键帧,lm是共视关键帧lm集合
            更新当前帧lm几何信息和图连接
        进行局部地图BA(local_bundle_adjuster)
        祛除冗余的关键帧remove_redundant_keyframes
            获取当前关键帧的共视关键帧
            逐个共视关键帧计算冗余观测count_redundant_observations
                获取当前共视关键帧的lm
                逐个lm统计其共视关键帧数量,如果不小于3个就认为lm是冗余的num_redundant_obs++
                lm深度有效就认为是有效的lm,num_valid_obs++
            如果num_redundant_obs / num_valid_obs > 0.9,则认为该共视关键帧是冗余的,移除掉
    将新的关键帧发送给全局优化模块队列
    

    观测门限清理

    在跟踪模块优化局部地图optimize_current_frame_with_local_map时,首先会统计出当前帧可以被观测到的lm,会调用lm->increase_num_observable(),位姿优化后统计inlier的lm,调用lm->increase_num_observed(),因此num_observed_记录的是跟踪过程中真正有效的lm,num_observable_记录的是局部地图中可以被当前帧观测到的lm,如果num_observed_ / num_observable_的值很小的话,说明该lm对位姿评估没有太大意义,可以从局部地图buffer和数据库中清除掉。

    // src/openvslam/tracking_module.cc:340
    bool tracking_module::optimize_current_frame_with_local_map()
    

    全局优化模块

    和建图模块一样, 全局优化模块global_optimization_module在初始化系统的时候进行实例化,在构建实例的时候会实例化graph_optimizer、loop_detector和loop_bundle_adjuster。系统启动的时候会在另外一个线程中启动该模块。

    // src/openvslam/system.cc:80
    global_optimizer_ = new global_optimization_module(map_db_, bow_db_, bow_vocab_, camera_->setup_type_ != camera::setup_type_t::Monocular);
    
    // src/openvslam/system.cc:124
    global_optimization_thread_ = std::unique_ptr<std::thread>(new std::thread(&openvslam::global_optimization_module::run, global_optimizer_));
    
    

    run
        取出队列中最早放入的关键帧
        设置标记保证在回环检测和校正期间关键帧不被擦除
        将关键帧传入回环检测模块
        检测回环候选detect_loop_candidates
            回环检测功能被禁用或者刚刚被校正过,则不需要检测回环候选,直接将关键帧添加到bow_db
            1. 通过查询BoW数据库来搜索循环候选者
                在查询之前,计算当前关键帧和每个共视关键帧之间的BoW相似性的最小分数
                获取回环候选acquire_loop_candidates
                    获取与当前关键帧相连的关键帧集合(通过graph_node)
                    统计当前关键帧和其他关键帧共享单词数量情况
                    将最大共享单词数量*0.8作为最小共享单词门限
                    计算共享单词数满足条件的候选关键帧于当前关键帧的bow得分
                    挑选出不大于最小分数候选关键帧对儿score_keyfrm_pairs
                    计算每个候选关键帧(score_keyfrm_pairs)邻域的得分并取总和best_total_score
                    大于best_total_score*0.75才为有效的候选帧
                没有回环候选帧将当前关键帧添加到BoW database
            2. 寻找连续关键帧集合find_continuously_detected_keyframe_sets
                逐个查看回环候选关键帧
                    获取相连的关键帧集合
                    检测与之前连续关键帧集合是否相连,如果相连,添加入当前连续关键帧集合
            3. 将连接数大于2的关键帧放入回环候选
            4. 保存当前连续关键帧集合以便下次使用
        如果当前关键没有找到回环候选,那么当前帧是可以被删除的
        验证回环并且从中选出一个validate_candidates
            使用线性和非线性的方式评估当前关键帧和候选关键帧的sim3,挑选出回环候选帧
        校正回环correct_loop
            获取当前关键帧的共视关键帧
            获取回环校正前的共视关键帧的Sim3s_nw
            计算回环校正后的共视关键帧的Sim3s_nw
            校正共视关键帧中的lm的位置信息
            校正共视关键帧的位姿信息
            处理回环融合带来的重复lm(replace_duplicated_landmarks)
                用回环候选关键中的lm替换当前帧中的lm
                使用match::fuse检测重复的关键点
            获取新的连接关系,进行图优化sim3
                优化的变量只有关键帧位姿,优化完成后使用优化的结果调整landmark
            添加回环边
            最后进行loop BA
    
    

    问题

    1. 搞清楚线性和非线性sim3;
  • 相关阅读:
    R语言--自定义函数证明中心极限定理
    R基础for、while、自定义函数
    R基础绘图、时间序列生成
    装R包(package)error:(as ‘lib’ is unspecified)installation of package had non-zero exit status
    GraphPad Prism中文显示错误
    SAS学笔记_chapter_library
    excel表格打印时铺满纸张
    SAS学笔记_chapter1_基本概念
    支持向量机课(SVM)(五)--SMO算法(省去公式推导,只讲其思想)
    Web前端学习-第六课HTML篇
  • 原文地址:https://www.cnblogs.com/hardjet/p/11564400.html
Copyright © 2020-2023  润新知