python - 使用 python 和 numpy 计算正则化损失函数的梯度

Question

我有以下公式:

我试图在一个函数中使用它来计算正则化损失函数的梯度。我有 dataSet，它是 [(x(1), t(1)), ..., (x(n), t(n))]，以及训练数据 n = 15。

这是我目前所知道的，损失函数是 vector here.

def gradDescent(alpha, t, w, Z):
    returned = 2 * alpha * w
    y = []
    i = 0
    while i < len(dataSet):
        y.append(dataSet[i][0] * w[i])
        i+= 1
    return(returned - (2 * np.sum(np.subtract(t, y)) * Z))

---

问题是，w 总是等于 (M + 1) - 而在 dataSet 中，t 等于 15。这导致越界乘法。我计算的公式错了吗？有帮助吗？

Answer 1

我相信您弄乱了数据集数组的索引。还要确保您的数组实际上定义为数组而不是列表。我相信像 list[i][j] 这样的列表索引和像 array[i,j] 这样的数组索引。

所以我会通过以下方式运行您的数据对象:

import numpy as np
dataSet=np.asarray(dataSet)

然后用这个 while 循环替换你的 while 循环:

while i < len(dataSet):
        y.append(dataSet[i,0] * w[i])
        i+= 1