假设我们有一个经过训练的卷积神经网络,可以在 Tensor-Flow 中对(w.l.o.g. 灰度)图像进行分类。
给定经过训练的网络和测试图像,我们可以追踪其中哪些像素是显着的,或者“等效地”哪些像素对图像的输出分类负有最大责任。 Theano 中的一个很好的解释和实现细节,在这个 article 中给出。 .
假设对于与输入图像直接链接的第一层卷积,我们确实有每个卷积核-wrt 参数的梯度。分类函数。
如何将梯度传播回输入层,从而计算图像每个像素的偏导数?
总而言之,它看起来像:
其中,“输出”是神经网络输出层的最大值。
而 g1,是一个 (k, k, 1, M) 张量,因为我在第一层使用了 M: k x k 卷积核。
现在,我需要找到在每个输入像素上传播 g1 的正确方法,以计算它们的导数 wrt。输出。
最佳答案
要计算梯度,您不需要使用优化器,您可以直接使用 tf.gradients
.
用这个函数可以直接计算output
的梯度关于图像 input
,而优化器 compute_gradients
方法只能计算梯度 关于变量 .tf.gradients
的其他优势是您可以指定要反向传播的输出的梯度。
所以这里是如何获得输入图像相对于 output[1, 1]
的梯度:
0
除指数外的所有地方 [1, 1]
input = tf.ones([1, 4, 4, 1])
filter = tf.ones([3, 3, 1, 1])
output = tf.nn.conv2d(input, filter, [1, 1, 1, 1], 'SAME')
grad_output = np.zeros((1, 4, 4, 1), dtype=np.float32)
grad_output[0, 1, 1, 0] = 1.
grads = tf.gradients(output, input, grad_output)
sess = tf.Session()
print sess.run(grads[0]).reshape((4, 4))
# prints [[ 1. 1. 1. 0.]
# [ 1. 1. 1. 0.]
# [ 1. 1. 1. 0.]
# [ 0. 0. 0. 0.]]
关于classification - 通过神经网络分类器计算图像显着性,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/38110807/