python - 如何使用 autograd 查找最小/最大点

Question

假设我们有一个简单的函数 y=sin(x**2)，如何使用 autograd 查找一阶导数值为 0 的所有 X:s？

Answer 1

下面的代码可以找到一阶导数为零的点。然而，根据随机初始化，它只能找到一个点。如果您想找到所有点，您可以尝试在某些所需的网格上迭代大量随机初始化。

import torch 
import numpy as np
# initialization
x = torch.tensor(np.random.rand(1)).requires_grad_(True)

while (x.grad is None or torch.abs(x.grad)>0.01):
    if (x.grad is not None):
        # zero grads
        x.grad.data.zero_()
    # compute fn
    y = torch.sin(x**2)
    # compute grads
    y.backward()
    # move in direction of / opposite to grads
    x.data = x.data - 0.01*x.grad.data
    # use below line to move uphill 
    # x.data = x.data + 0.01*x.grad.data

print(x)
print(y)
print(x.grad)

另请参阅how to apply gradients manually in pytorch