performance - 在 Julia 中优化传递固定大小数组的维度

Question

我想编写一个以矩阵为输入的函数。这是复杂项目中频繁的低级调用，因此使该函数尽可能快地具有潜在的严重性能影响。因为速度对我来说很重要，所以我使用 FixedSizeArrays 中的类型。据我所知，这将节省内存使用量。但我经常知道输入矩阵的某些属性，但我不确定我是否在优化使用它。

这是一个简单的例子。想象一下，我想让以下功能尽可能快:

using FixedSizeArrays

function foo( input::Mat )
# NB: Mat is the FixedSizeArrays matrix type
  return 2 * input
end

显然这是一个微不足道的例子，但这不是重点。关键是我对矩阵的维度有所了解input :它总是只有两列，我总是可以在运行时指定行数。这似乎是可以传递给编译器以使我的代码更快的信息。我可以将它作为定义 input 大小的参数传递吗？不知何故？这是一个不起作用的示例，但应该让您对我正在尝试做的事情有所了解。

function bar( int::N, thismat::Mat{N,2,Float64} )
  return 2 * thismat
end

我能做这样的事情吗？如果可以的话，这还能用吗？也许 FixedSizeArrays 已经做了所有可以做的事情。谢谢你的想法!

Answer 1

固定大小的数组已经专门用于大小。这些数组不适用于行数 N 时在您的情况下，可能会有所不同。您注意到的任何性能问题都可能是由于过度特化造成的。

让我更具体一点。

Julia 编译器能够通过对参数类型的积极特化来实现零成本抽象。所以一般来说(也就是说，在所有情况下，除了一些特殊化太昂贵或被显式禁用的情况)，如果使用两个不同的类型签名调用函数，则将编译该函数的两个版本。

由于 Mat 的大小是其类型的一部分，这意味着将为 Mat 的每个可能大小编译一个版本.因此，您寻求的专业已经完成。

然而，特化并不是免费的。有两个与之相关的成本:

第一次在特定签名上调用函数时，将分配内存并且必须运行编译器。

当将一个类型无法推断的参数传递给函数时，存在“类型不稳定”，需要动态调度。动态调度涉及运行时查找。

因此，如果您的矩阵大小为 (2, N) , 其中 N变化并且在编译时不知道，将产生动态调度的性能成本。这种性能成本可以通过使用函数屏障技术来限制:对于每个类型不稳定的调用，我们只会产生一次这种成本，因此限制此类调用的数量可以提高性能。

但是更能提高性能的是完全避免这种动态调度。可以构造一个数组类型，只对类型中的列数进行编码，并在运行时将行数作为一个字段。也就是说，您的性能问题可能是由于过度特化造成的，您需要创建类型以减少特化的数量。

找到适当的平衡对于从应用程序中尽可能多地发挥性能至关重要。专注于数组的大小实际上很少有用——例如，即使是 C 和 C++ 代码也倾向于将数组大小作为运行时参数传递，而不是专注于特定的数组大小。这不是那么贵。在更多情况下，FixedSizeArrays.jl不会提高性能，反而会伤害它。当然，在某些情况下它会有所帮助——但你的情况可能不是其中之一。

在您的情况下，为了获得最佳性能，我怀疑这样的类型会最快:

immutable TwoColumnMatrix{T, BaseType} <: AbstractArray{T, 2}
    height::Int
    base::BaseType
end

function TwoColumnMatrix(A::Matrix)
    size(A, 2) == 2 || throw(ArgumentError("must be two columns"))
    TwoColumnMatrix{eltype(A), typeof(A)}(size(A, 1), A)
end

Base.@propagate_inbounds function getindex(M::TwoColumnMatrix, n::Int)
    M.base[n]
end

size(M::TwoColumnMatrix) = (M.height, 2)

您可能需要定义其他方法以获得最佳性能，并且一如既往地进行基准测试。包装器的开销可能不值得编译器了解尺寸。