• Bellman update中Value Iteration收敛证明


    Preface

    感觉比赛完了后有段空隙期,没事抬头看看天空,低头翻翻paper.

    Text

    问题在这本textbook654页上的(17.7),是关于不动点的收敛问题。收敛性问题一向引人入胜,但刚看到这段的时候,还是没有从mess中理出来,还好后面Exercise 17.6有guidance。把(b)问做了之后,发现(a)并没有那么trivial,于是记一下。

    (b)

    从guidance的思路出发,剩下的用一个如下的式子进行证明:

    [egin{equation} mathop{max}_{ain A(s)} left|sum_{s'}P(s'|s,a)left( U_i(s')-U'_i(s') ight) ight| leq mathop{max}_{s'} left| U_i(s')-U'_i(s') ight| label{eq:17.6.b} end{equation} ]

    利用(P)的概率属性。
    以下是关于(a)的证明。

    (a)

    这是这篇想要说的主要内容,复述一下要证明的问题:
    for any functions (f) and (g)

    [left|mathop{max}_{a}f(a)-mathop{max}_{a}g(a) ight|leqmathop{max}_{a}left|f(a)-g(a) ight| ]

    感觉离上次看见Terence Tao的字眼已经很久了,思维启动起来有些慢,一开始还想从连续性方面考虑下(-_-||),后面发觉应该归为一般类的问题来考虑。
    先做几个定义:

    [egin{eqnarray} f_a & :=& max f onumber\ g_x &:=& max g onumber\ h(y) &:=& left(f(y)-g(y) ight)^2-(f_a-g_x)^2 onumber end{eqnarray} ]

    那么问题就转为证明:

    [egin{equation} exists y in D, ~ h(y) geq 0label{eq:proof1} end{equation} ]

    如果只考虑是个一般类问题的话,能着手的只有两个已知点,还好后面发现能work:

    [egin{eqnarray} h(a) &=& left( 2f_a -g(a) -g_x ight)left(g_x-g(a) ight)label{eq:h_a}\ h(x) &=& left(2g_x-f(x)-f_a ight)left(f_a-f(x) ight)label{eq:h_x} end{eqnarray} ]

    然后讨论(f_a,~g_x)的大小关系,发现总会存在(h(a)~OR~h(x)ge 0)的情况。

    Note

    这种更新方式很concise(也很nice),容易使人联想到EM的策略,但EM却和不动点扯不上什么关系(真是遗憾)。
    另外,(b)的严格证明还没有进行,上面只是一些思路。

  • 相关阅读:
    shell脚本操作mysql通用脚本
    chfs共享系统搭建
    P6717 [CCO2018] Boring Lectures题解
    vim快捷命令
    第一个pnpm的工程
    js/react方法学习
    赵长鹏:我所遵循的 15 条处事原则
    《Unix&Linux系统编程》第五章学习笔记
    stat命令的实现mysate
    《Unix&Linux系统编程》第三章学习笔记
  • 原文地址:https://www.cnblogs.com/chenyliang/p/8021889.html
Copyright © 2020-2023  润新知