machine-learning - 神经网络会在不同的运行时间翻译成同一个句子吗？我可以在运行时收到很多翻译的句子吗？

Question

我打算使用神经网络(CNN、RNN 等)将句子单元中的一种语言翻译成另一种语言。我想知道这个网络是否会在不同的运行时间给我们相同的句子。我们可以在运行时有很多翻译句子吗？

假设我们有这些场景:

Runtime 1: sentence --- a
Runtime 2: sentence --- a
Runtime 3: sentence --- b
Runtime 4: sentence --- a, b, c, etc

NW会给我们带来哪些场景？谢谢!

Answer 1

如果您有两个相同的神经网络(相同的架构和相同的权重)，则推理是确定性的:两个相同的输入将给出相同的输出。如果您在神经网络架构中使用某种随机性，例如如果您使用Variational Autoencoder (VAE)，则情况并非如此。 ，或 Generative Adversarial Network (GAN) ，就像您将学习和采样统计分布一样。

对于第二个问题:神经网络将张量作为输入，并提供张量作为输出。输入可以是 1D 张量(向量)、2D 张量(矩阵)，甚至是 666D 张量(尽管不推荐)。最终，神经网络的推理只是一系列张量积。

当您学习线性代数时，您会了解到，在张量的乘积中，您始终可以将其中一个张量与其自身(或相同大小的不同张量)与特定维度一起堆叠，并且表达式将保持正确。因此，如果您正确地堆叠输入张量(我猜是句子的单热编码)，您可以批量运行您的预测。在这种情况下，您的输出张量(翻译句子的单热编码)也将堆叠在一起。但请注意，(1) 这样的批处理应该适合内存，(2) 批处理越大，需要的计算量就越多。