c++ - 返回未定义行为的递归行列式函数

Question

我编写了一个用于计算行列式的递归函数。我知道我可以更有效地完成它，但这不是这里的重点。我有一个名为“det1”的变量，它保存递归结束时行列式的最终值。 奇怪的是，当我在 det 函数中返回这个值时，我得到了完全的垃圾。但是，当我简单地简单地打印出“det1”时，我得到了答案。这里有什么猜测吗？

int det1 = 0;
int p = 0; 

int det(vector<vector<int> > (&A)){
    if (A.size() != A[0].size()){
        cout << "Determinant Error: non-square matrix. \n";
        return 0; 
    }
    int cF; 
    vector<vector<int> > temp01;
    if (A.size() == 2){
        det1 += (A[0][0]*A[1][1]-A[0][1]*A[1][0]); 
        //cout << "Determinant : " << det1 << "\n";
        int output = det1;                     ///////////////////////////////////////Problem with final return 
        //cout << "Recursion Count : " << p << "\n";  
        //return(output);                        ///////////////////////////////////////
    }else{//extract until a 2x2 is reached
        for (int i = 0; i < A.size(); i++){
             temp01 = extractNext(A,0, i); 
             //printMatrix(temp01); 
             cF = pow(-1, (0)+(i))*A[0][i]; 
             //cout << "Cofactor : " << cF << "\n"; 
             for (int j = 0; j< temp01.size(); j++){
                 temp01[0][j] = cF*temp01[0][j]; //account for cofactor by multiplying it in
             }
             //printMatrix(temp); cout << "\n";
             p++;  
             det(temp01); 
        }
    } 
}

Answer 1

您不会在所有代码路径上返回一个值，当您使用一个从未存在过的返回值时，这最终会导致未定义的行为。
(一个相当现代的编译器应该警告你这一点。)

您应该从递归中返回行列式而不是改变全局 - 混合可变状态和递归通常只会导致麻烦。
(这也使您的代码更类似于行列式的数学定义，这反过来又使其更容易理解和验证。)

有一些小的改动，我会建议类似

int det(const vector<vector<int>> &A)
{
    if (A.size() != A[0].size()){
        cout << "Determinant Error: non-square matrix. \n";
        return 0; 
    }

    if (A.size() == 2)
    {
        return A[0][0] * A[1][1] - A[0][1] * A[1][0]; 
    }
    else
    {
        int determinant = 0;
        int sign = -1;
        for (int i = 0; i < A.size(); i++){
            vector<vector<int>> submatrix = extractNext(A, 0, i);
            sign = -sign;
            int cofactor = sign * A[0][i]; 
            for (int j = 0; j < submatrix.size(); j++){
                submatrix[0][j] = cofactor * submatrix[0][j];
            }
            determinant += det(submatrix);
        }
        return determinant;
    } 
}