python - 在 Theano 中使用随机数

Question

我是一个theano新手。

谁能解释一下下面的代码？

from theano.tensor.shared_randomstreams import RandomStreams
from theano import function
srng = RandomStreams(seed=234)
rv_u = srng.uniform((2,2))
rv_n = srng.normal((2,2))
f = function([], rv_u)
g = function([], rv_n, no_default_updates=True)    #Not updating rv_n.rng
nearly_zeros = function([], rv_u + rv_u - 2 * rv_u)

state_after_v0 = rv_u.rng.get_value().get_state()
nearly_zeros()       # this affects rv_u's generator
v1 = f()
rng = rv_u.rng.get_value(borrow=True)
rng.set_state(state_after_v0)
rv_u.rng.set_value(rng, borrow=True)
v2 = f()             # v2 != v1
v3 = f()             # v3 == v1

Q1。 nearly_zeros() 如何影响 rv_u 的生成器？
Q2。为什么？

v2 != v1
v3 == v1

Answer 1

第一季度

看起来 rv_u 的生成器只生成了 1 个“值”(即 2x2 矩阵)。如果您使用 theano.printing.debugprint 打印函数图，您可以看到这一点。作为引用，这是我得到的:

>>> theano.printing.debugprint(nearly_zeros)
Elemwise{Composite{((i0 + i0) - (i1 * i0))}}[(0, 0)] [@A] ''   1
 |RandomFunction{uniform}.1 [@B] ''   0
 | |<RandomStateType> [@C]
 | |TensorConstant{(2,) of 2} [@D]
 | |TensorConstant{0.0} [@E]
 | |TensorConstant{1.0} [@F]
 |TensorConstant{(1, 1) of 2.0} [@G]
RandomFunction{uniform}.0 [@B] ''   0

这意味着这两个函数(nearly_zero 和 f)都只从 rv_u 中获取 1 个值，这就是为什么

v3 == v1

第二季度

Theano 主要是一个符号数学包。您定义符号变量之间的关系，然后 Theano 找出如何评估这些关系。

因此，您可以将 rv_u 视为表示单个 2x2 矩阵的变量，而不是每次“调用”时都会生成一个新的 2x2 矩阵的 rng。鉴于这种观点，Theano 只需要调用一次底层 rng 来获取变量 rv_u 的值。