python - TensorFlow 估计器 DNNClassifier 无法进行 2 次线性分离

Question

我正在尝试使用一些简单的数据来测试 TensorFlow tf.estimator。DNNClassifier

X = [[1,2], [1,12], [1,17], [9,33], [48,49], [48,50]]
Y = [ 1,     1,      1,      1,      2,       3     ]

分类器有 2 个输入:x1,x2；并且具有以下形状:

#these 4 layers supposed to be able to do even 4-time linear separation
hidden_units = [2000,1000,500,100]
n_classes    = 4    

但是，事情并没有按预期进行，网络无法连接。准确率很快达到 8.33 (=5/6)，但随后就陷入困境。损失收敛到水平线，但不是零线。

上面提供的数据是2次线性可分的(右键单击图像在新选项卡中打开):

即使网络运行到 10,000 步，它仍然卡住，我猜它卡住是因为它无法分离 2 个值:Y=2 和 Y=3，是这样吗？以及如何使网络与所提到的数据相适应。

Answer 1

我尝试使用这些并且它有效:

• 使用leaky relu或sigmoid
• 减少层数
• 减少每层神经元数量
• 标准化输入
• 根据需要增加步数、纪元