• TF.VARIABLE、TF.GET_VARIABLE、TF.VARIABLE_SCOPE以及TF.NAME_SCOPE关系


    1. tf.Variable与tf.get_variable

    tensorflow提供了通过变量名称来创建或者获取一个变量的机制。通过这个机制,在不同的函数中可以直接通过变量的名字来使用变量,而不需要将变量通过参数的形式到处传递。 
    TensorFlow中通过变量名获取变量的机制主要是通过tf.get_variable和tf.variable_scope实现的。 
    当然,变量也可以通过tf.Varivale来创建。当tf.get_variable用于变量创建时,和tf.Variable的功能基本等价

    1
    2
    3
    #以下两个定义是等价的
    = tf.get_variable('v', shape=[1], initializer=tf.constant_initializer(1.0))
    = tf.Variable(tf.constant(1.0, shape=[1], name='v')

    tf.get_varialbe和tf.Variable最大的区别在于:tf.Variable的变量名是一个可选项,通过name=’v’的形式给出。但是tf.get_variable必须指定变量名

    2. tf.get_variable与tf.variable_scope

    上面已经提到过了:TensorFlow中通过变量名获取变量的机制主要是通过tf.get_variable和tf.variable_scope实现的。在这里,我主要解释下大家深恶痛绝的reuse问题。 
    其实只要记住一件事情就ok了:当reuse为False或者None时(这也是默认值),同一个tf.variable_scope下面的变量名不能相同;当reuse为True时,tf.variable_scope只能获取已经创建过的变量。 
    下面我们通过代码来看下:

    1
    2
    3
    4
    5
    6
    #reuse=False时会报错的情况:
    with tf.variable_scope('foo'):
        = tf.get_variable('v',[1],initializer=tf.constant_initializer(1.0))
     
    with tf.variable_scope('foo'):
        v1 = tf.get_variable('v',[1])

    在这种情况下会报错:Variable foo/v already exists, disallowed.Did you mean to set reuse=True in Varscope? 
    其原因就是在命名空间foo中创建了相同的变量。如果我要在foo下创建一个变量v1,其name=‘v’,只需要将reuse设置为Ture就ok了。将上面第二部分代码修改为:

    1
    2
    3
    with tf.variable_scope('foo', reuse=True):
        v1 = tf.get_variable('v',[1])
        print(v1.name)      #结果为foo/v

    当reuse已经设置为True时,tf.variable_scope只能获取已经创建过的变量。这个时候,在命名空间bar中创建name=‘v’的变量v3,将会报错:Variable bar/v dose not exists, diallowed. Did you mean to set reuse=None in VarScope?

    1
    2
    with tf.variable_scope('bar', reuse=True):
        v3 = tf.get_variable('v',[1])

    简而言之,reuse=False时,tf.variable_scope创建变量;reuse=True时,tf.variable_scope获取变量

    3. tf.variable_scope与tf.name_scope

    除了tf.variable_scope,tf.name_scope函数也提供了命名空间管理的功能。这两个函数在大部分情况下是等价的,唯一的区别是在使用tf.get_variable函数时。 
    tf.get_variable函数不受tf.name_scope的影响。 
    我们从代码看下这句话的具体意思。 
    首先是tf.variable_scope:

    1
    2
    3
    with tf.variable_scope('foo'):
        = tf.get_variable('bar',[1])
        print(a.name)#结果为foo/bar:0

      

    再看tf.name_scope:

    1
    2
    3
    4
    5
    6
    with tf.name_scope('a'):
        a=tf.Variable([1])
        print(a.name)#结果为a/Variable:0
     
        b=tf.get_variable('b',[1])
        print(b.name)#结果为b:0

      

    从这个结果中,我们能很清晰地看到,tf.get_variable创建的变量并不是a/b:0,而是b:0。这就表示了在tf.name_scope函数下,tf.get_variable不受其约束

  • 相关阅读:
    Kubernetes源码client-go的workqueue
    (转)Golang语言heap剖析及利用heap实现优先级队列
    (转)Kubernetes GC设计原则
    Kubernetes kubefed使用Cluster Selector
    使用kubeadm添加新节点到集群及相关问题解决
    Kubeadm颁发证书延迟到10年
    kubeadm升级Kubernetes证书
    混合kubebuilder与code generator编写CRD
    (转)Go项目的vendor目录是否需要提交?看这一篇就知道了
    Java 将Excel转为et和ett格式
  • 原文地址:https://www.cnblogs.com/wangzhongqiu/p/10215746.html
Copyright © 2020-2023  润新知