python - Tensorflow 高效成对内积

Question

在 Tensorflow (python) 中，给定一个形状为 (n x d) 的矩阵 X，其中每一行都是一个数据点，我想计算成对的内积这些 n 个数据点，即，XX' 的上三角。

当然，我可以计算整个 XX' 并获取其上三角，但这意味着我将计算非对角线元素两次。如何通过每对仅计算一次内积来在 Tensorflow(python)中有效地计算这些？

Answer 1

使用 numpy，你可以这样做:

import numpy as np

A = np.random.randn(5, 3)
inds = np.triu_indices(5) # upper triangle indices

# expensive way to do it
ipu1 = np.dot(A, A.T)[inds]


# possibly less expensive way to do it.
ipu2 = np.einsum('ij,ij->i', A[inds[0]], A[inds[1]])

print(np.allclose(ipu1, ipu2))

这会输出 True。 Tensorflow 没有内置 triu_indices 函数，但如果需要，通过查看 numpy 代码不难编写一个。它确实有 einsum。