python - 对未知秩的张量应用函数(平均倒数秩)

Question

我想为我的模型创建一个新的评估指标(平均倒数排名)。
假设我有:

• logits形状张量 (None, n_class)和
• y_target形状张量 (None, )包含int值来自0至n_class-1 .
• None将是批量大小。

我希望我的输出是形状为 (None, ) 的张量，相应的 y_target 的倒数排名。 首先，我需要对 logits 中的元素进行排名，然后获取索引 y_target 中元素的排名，最后求其倒数(或 x+1 的倒数，具体取决于排名过程)。

一个简单的例子(针对单个观察):
如果我的y_target=1和logits=[0.5, -2.0, 1.1, 3.5] ,
那么排名是logits_rank=[3, 4, 2, 1]
倒数为 1.0 / logits_rank[y_target] = 0.25 。

这里的挑战是跨轴应用函数，因为排名未知(在图表级别)。 我设法使用 tf.nn.top_k(logits, k=n_class, sorted=True).indices 获得一些结果，但仅限于session.run(sess, feed_dict)内。

任何帮助将不胜感激!

Answer 1

Solved!

 def tf_get_rank_order(input, reciprocal):
    """
    Returns a tensor of the rank of the input tensor's elements.
    rank(highest element) = 1.
    """
    assert isinstance(reciprocal, bool), 'reciprocal has to be bool'
    size = tf.size(input)
    indices_of_ranks = tf.nn.top_k(-input, k=size)[1]
    indices_of_ranks = size - tf.nn.top_k(-indices_of_ranks, k=size)[1]
    if reciprocal:
        indices_of_ranks = tf.cast(indices_of_ranks, tf.float32)
        indices_of_ranks = tf.map_fn(
            lambda x: tf.reciprocal(x), indices_of_ranks, 
            dtype=tf.float32)
        return indices_of_ranks
    else:
        return indices_of_ranks


def get_reciprocal_rank(logits, targets, reciprocal=True):
    """
    Returns a tensor containing the (reciprocal) ranks
    of the logits tensor (wrt the targets tensor).
    The targets tensor should be a 'one hot' vector 
    (otherwise apply one_hot on targets, such that index_mask is a one_hot).
    """
    function_to_map = lambda x: tf_get_rank_order(x, reciprocal=reciprocal)
    ordered_array_dtype = tf.float32 if reciprocal is not None else tf.int32
    ordered_array = tf.map_fn(function_to_map, logits, 
                              dtype=ordered_array_dtype)

    size = int(logits.shape[1])
    index_mask = tf.reshape(
            targets, [-1,size])
    if reciprocal:
        index_mask = tf.cast(index_mask, tf.float32)

    return tf.reduce_sum(ordered_array * index_mask,1)

# use:
recip_rank = tf.reduce_mean(
                 get_reciprocal_rank(logits[-1], 
                                     y_, 
                                     True)