Azure 认知服务 : Where are the missing Custom Vision Performance Statistics?

Question

我正在查询 Azure Custom Vision V3.0 Training API(请参阅 https://westeurope.dev.cognitive.microsoft.com/docs/services/Custom_Vision_Training_3.0/operations/5c771cdcbf6a2b18a0c3b809 )，以便我可以通过 GetIterationPerformance 操作自行生成每个标签的 ROC，其部分输出为:

{u'averagePrecision': 0.92868346,
 u'perTagPerformance': [{u'averagePrecision': 0.4887446,
                         u'id': u'uuid1',
                         u'name': u'tag_name_1',
                         u'precision': 0.0,
                         u'precisionStdDeviation': 0.0,
                         u'recall': 0.0,
                         u'recallStdDeviation': 0.0},
                        {u'averagePrecision': 1.0,
                         u'id': u'uuid2',
                         u'name': u'tag_name_2',
                         u'precision': 0.0,
                         u'precisionStdDeviation': 0.0,
                         u'recall': 0.0,
                         u'recallStdDeviation': 0.0},
                    {u'averagePrecision': 0.9828302,
                     u'id': u'uuid3',
                     u'name': u'tag_name_3',
                     u'precision': 1.0,
                     u'precisionStdDeviation': 0.0,
                     u'recall': 0.5555556,
                     u'recallStdDeviation': 0.0}],

u'精度':0.9859485， u'精度标准偏差':0.0， 你记得':0.3752228， u'recallStdDeviation':0.0}

精度和召回率的不确定性，分别是 precisionStdDeviation 和 recallStdDeviation 似乎始终为 0.0。这是用户错误吗？如果不是，是否有计划激活这些统计数据？

Answer 1

所以目前没有使用 precisionStdDeviation 和recallStdDeviation ，因此它始终为零，这不是用户错误。这两个指标的存在是因为之前我们对用户数据集进行了交叉验证，对于每个交叉验证折叠，我们都有一个精度和召回率，stddev 测量跨折叠的精度和召回率的变化。现在，我们不再进行交叉验证，而是分割一部分用户数据作为验证集，并据此报告 IterationPerformance，因为没有多重折叠，stddev 将始终为零。我们计划停用这两个字段，很抱歉造成困惑，它很可能会在下一个主要版本中删除。