python - 计算 torch 张量数组的平均值和标准差

Question

我正在尝试计算 torch 张量数组的平均值和标准差。我的数据集有 720 张训练图像，每张图像都有 4 个地标，其中 X 和 Y 代表图像上的 2D 点。

to_tensor = transforms.ToTensor()

landmarks_arr = []

for i in range(len(train_dataset)):
    landmarks_arr.append(to_tensor(train_dataset[i]['landmarks']))
                     
mean = torch.mean(torch.stack(landmarks_arr, dim=0))#, dim=(0, 2, 3))
std = torch.std(torch.stack(landmarks_arr, dim=0)) #, dim=(0, 2, 3))



print(mean.shape)
print("mean is {} and std is {}".format(mean, std))

结果:

torch.Size([])
mean is nan and std is nan

上面有几个问题:

1. 为什么 to_tensor 没有转换 0 到 1 之间的值？
2. 如何正确计算平均值？
3. 我应该除以 255 吗？

我有:

len(landmarks_arr)
    
720

和

landmarks_arr[0].shape

torch.Size([1, 4, 2])

和

landmarks_arr[0]

tensor([[[502.2869, 240.4949],
         [688.0000, 293.0000],
         [346.0000, 317.0000],
         [560.8283, 322.6830]]], dtype=torch.float64)

Answer 1

1. 来自 ToTensor() 的 pytorch 文档:

Converts a PIL Image or numpy.ndarray (H x W x C) in the range [0, 255] to a torch.FloatTensor of shape (C x H x W) in the range [0.0, 1.0] if the PIL Image belongs to one of the modes (L, LA, P, I, F, RGB, YCbCr, RGBA, CMYK, 1) or if the numpy.ndarray has dtype = np.uint8

In the other cases, tensors are returned without scaling.

由于您的 Landmark 值不是 PIL 图像，且不在 [0, 255] 范围内，因此不会应用缩放。

您的计算看来是正确的。看来您的数据中可能有一些 NaN 值。

你可以尝试类似的事情

for i in range(len(train_dataset)):
    landmarks = to_tensor(train_dataset[i]['landmarks'])
    landmarks[landmarks != landmarks] = 0  # this will set all nan to zero
    landmarks_arr.append(landmarks)

在你的循环中。或者在循环中断言 for nan 以找到罪魁祸首:

for i in range(len(train_dataset)):
    landmarks = to_tensor(train_dataset[i]['landmarks'])
    assert(not torch.isnan(landmarks).any()), f'nan encountered in sample {i}'  # will trigger if a landmark contains nan
    landmarks_arr.append(landmarks)

不，请参阅 1)。如果您愿意，您可以除以地标的最大坐标，将它们限制为 [0, 1]。