tensorflow tf.control_dependenci

最近在学习 tensorflow MNIST 程序时遇到了 tensorflow tf.control_dependencies()，具体为：

......
variables_averages_op = variable_averages.apply(tf.trainable_variables())  # apply --vars--> average_op
......
# 优化损失函数
train_step = tf.train.GradientDescentOptimizer(learning_rate).minimize(loss, global_step=global_step)
with tf.control_dependencies([train_step, variables_averages_op]):  # 依赖环境
    train_op = tf.no_op(name='train')  # here, train_op will only run after [**] have executed.

有人说：

with g.control_dependencies([a, b, c]):  #  这会保证 a, b, c 按顺序执行
    # d will only run after a, b and c have executed.
    d = ...

事实上，a，b，c 不会按 [*] 里的顺序执行。下面看一些实验。

import tensorflow as tf

a = tf.Variable(1.0)
c = tf.assign(a, 2.0)  # 注意这里 c 和 d 的顺序
d = tf.assign(a, 3.0)  # c --> d 是 c 在前, 如果 d --> c, 则是 d 在前

with tf.control_dependencies([c, d]):  # 看一看 c，d 的执行顺序
    op = tf.assign_add(a, 6.0)  # 后执行的将决定 a 的取值

with tf.Session() as sess:
    tf.global_variables_initializer().run()
    print(sess.run(op))

实验结果：

• c --> d && [c, d] ==> op == 9.0，说明 a 取值为 3，d 后执行
• c --> d && [d, c] ==> op == 9.0，说明 a 取值为 3，d 后执行
• d --> c && [c, d] ==> op == 8.0，说明 a 取值为 2，c 后执行
• d --> c && [d, c] ==> op == 8.0，说明 a 取值为 2，c 后执行

=>结论1：[c, d] 或 [d, c] 顺序没有影响, 实际执行顺序是由 (c --> d) || (d --> c) 决定

• c --> d && [c] ==> op == 8.0
• c --> d && [d] ==> op == 9.0

=>结论2：只执行了 [*] 中的操作, 不在其中的不会执行

如有错误，请指正