python - 对keras层的输出进行归一化，使得输出之和为1

Question

我想要一个像 K.l2_normalize 这样的归一化函数，但可以使输出的总和为 1

L2归一化公式为:

       x
---------------
sqrt(sum(x**2))

例如，对于输入 [3, 1, 4, 3, 1] 为 [3/6, 1/6, 4/6, 3/6, 1/6]=12/6=1/2

但我想要:

    x 
---------------
   ||x||

例如，对于输入 [3, 1, 4, 3, 1] 为 [3/12, 1/12, 4/12, 3/12, 1/12]=12/12=1

在Python中，我想要这样的东西:

import tensorflow as tf
from tensorflow.python.keras import backend as K
from tensorflow.python.keras.layers import Lambda

x = tf.keras.layers.Input(tensor=tf.constant([[3, 1, 4, 3, 1]], dtype=tf.float32))
n_layer = Lambda(lambda t: "somefunction" )(x)

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    print(n_layer.eval())

---------输出--------

[[0.25 0.0833 0.3333 0.25 0.0833 ]]

Answer 1

您要查找的是l1-norm，因此需要将阶数设置为1。您可以通过tf.linalg.norm中的ord参数传递范数的阶数

from tensorflow.python.keras import backend as K
from tensorflow.python.keras.layers import Lambda

x = tf.keras.layers.Input(tensor=tf.constant([[3, 1, 4, 3, 1]], dtype=tf.float32))
n_layer = Lambda(lambda t: tf.linalg.norm(t,ord=1) )(x)

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    print(n_layer.eval())

输出:

12.0