我有一个相当复杂的程序,在 MSVC 2010 Debug模式下使用 OpenMP 构建时会遇到奇怪的行为。我已尽力构建以下最小的工作示例(尽管它不是真正最小的),它缩小了真实程序的结构。
#include <vector>
#include <cassert>
// A class take points to the whole collection and a position Only allow access
// to the elements at that posiiton. It provide read-only access to query some
// information about the whole collection
class Element
{
public :
Element (int i, std::vector<double> *src) : i_(i), src_(src) {}
int i () const {return i_;}
int size () const {return src_->size();}
double src () const {return (*src_)[i_];}
double &src () {return (*src_)[i_];}
private :
const int i_;
std::vector<double> *const src_;
};
// A Base class for dispatch
template <typename Derived>
class Base
{
protected :
void eval (int dim, Element elem, double *res)
{
// Dispatch the call from Evaluation<Derived>
eval_dispatch(dim, elem, res, &Derived::eval); // Point (2)
}
private :
// Resolve to Derived non-static member eval(...)
template <typename D>
void eval_dispatch(int dim, Element elem, double *res,
void (D::*) (int, Element, double *))
{
#ifndef NDEBUG // Assert that this is a Derived object
assert((dynamic_cast<Derived *>(this)));
#endif
static_cast<Derived *>(this)->eval(dim, elem, res);
}
// Resolve to Derived static member eval(...)
void eval_dispatch(int dim, Element elem, double *res,
void (*) (int, Element, double *))
{
Derived::eval(dim, elem, res); // Point (3)
}
// Resolve to Base member eval(...), Derived has no this member but derived
// from Base
void eval_dispatch(int dim, Element elem, double *res,
void (Base::*) (int, Element, double *))
{
// Default behavior: do nothing
}
};
// A middle-man who provides the interface operator(), call Base::eval, and
// Base dispatch it to possible default behavior or Derived::eval
template <typename Derived>
class Evaluator : public Base<Derived>
{
public :
void operator() (int N , int dim, double *res)
{
std::vector<double> src(N);
for (int i = 0; i < N; ++i)
src[i] = i;
#pragma omp parallel for default(none) shared(N, dim, src, res)
for (int i = 0; i < N; ++i) {
assert(i < N);
double *r = res + i * dim;
Element elem(i, &src);
assert(elem.i() == i); // Point (1)
this->eval(dim, elem, r);
}
}
};
// Client code, who implements eval
class Implementation : public Evaluator<Implementation>
{
public :
static void eval (int dim, Element elem, double *r)
{
assert(elem.i() < elem.size()); // This is where the program fails Point (4)
for (int d = 0; d != dim; ++d)
r[d] = elem.src();
}
};
int main ()
{
const int N = 500000;
const int Dim = 2;
double *res = new double[N * Dim];
Implementation impl;
impl(N, Dim, res);
delete [] res;
return 0;
}
真正的程序没有
vector
等等 但是Element
, Base
, Evaluator
和 Implementation
捕获真实程序的基本结构。在 Debug模式下构建并运行调试器时,断言在 Point (4)
处失败.这是调试信息的更多详细信息,通过查看调用堆栈,
进入时
Point (1)
,本地i
有值 371152
,这很好。变量 elem
没有出现在框架中,这有点奇怪。但由于 Point (1)
处的断言没有失败,我想这很好。然后,疯狂的事情发生了。调用
eval
来自 Evaluator
解析为其基类,因此 Point (2)
被执行。此时,调试器显示 elem
有 i_ = 499999
,不再是 i
用于创建 elem
在 Evaluator
在通过之前按值 至 Base::eval
.下一点,它解析为 Point (3)
,这一次,elem
有 i_ = 501682
,超出范围,这是调用定向到 Point (4)
时的值并且断言失败。看起来就像每当
Element
对象按值传递,其成员的值发生变化。多次重新运行程序,会发生类似的行为,但并不总是可重现。在实际程序中,这个类被设计为类似于一个迭代器,它对粒子集合进行迭代。虽然它迭代的东西不像容器那样精确。但无论如何,关键是它足够小,可以有效地通过值传递。因此,客户端代码知道它有自己的 Element
拷贝。而不是一些引用或指针,只要他坚持 Element
就不需要担心线程安全(很多)的接口(interface),它只提供对整个集合的单个位置的写访问。我用 GCC 和 Intel ICPC 尝试了相同的程序。没有任何意外发生。在实际程序中,产生正确的结果。
我是否在某处错误地使用了 OpenMP?我以为
elem
创建于约 Point (1)
应该是循环体的局部。另外,在整个程序中,没有大于N
的值。产生了,那么这些新的值(value)是从哪里来的呢?编辑
我更仔细地查看了调试器,它显示虽然
elem.i_
elem
时更改按值传递,指针 elem.src_
不会随之改变。按值传递后具有相同的值(内存地址)编辑:编译器标志
我使用 CMake 来生成 MSVC 解决方案。我必须承认我不知道如何使用 MSVC 或 Windows。我使用它的唯一原因是我知道很多人都在使用它,所以我想针对它测试我的库以解决任何问题。
CMake 生成的项目,使用
Visual Studio 10 Win64
目标,编译器标志似乎是/DWIN32 /D_WINDOWS /W3 /Zm1000 /EHsc /GR /D_DEBUG /MDd /Zi /Ob0 /Od /RTC1
这是在 Property Pages-C/C++-Command Line 中找到的命令行/Zi /nologo /W3 /WX- /Od /Ob0 /D "WIN32" /D "_WINDOWS" /D "_DEBUG" /D "CMAKE_INTDIR=\"Debug\"" /D "_MBCS" /Gm- /EHsc /RTC1 /MDd /GS /fp:precise /Zc:wchar_t /Zc:forScope /GR /openmp /Fp"TestOMP.dir\Debug\TestOMP.pch" /Fa"Debug" /Fo"TestOMP.dir\Debug\" /Fd"C:/Users/Yan Zhou/Dropbox/Build/TestOMP/build/Debug/TestOMP.pdb" /Gd /TP /errorReport:queue
这里有什么可疑的吗?
最佳答案
显然,MSVC 中的 64 位 OpenMP 实现与未经优化编译的代码不兼容。
为了调试您的问题,我修改了您的代码以将迭代编号保存到 threadprivate
调用 this->eval()
之前的全局变量然后在Implementation::eval()
的开头加了一个check查看保存的迭代次数是否与 elem.i_
不同:
static int _iter;
#pragma omp threadprivate(_iter)
...
#pragma omp parallel for default(none) shared(N, dim, src, res)
for (int i = 0; i < N; ++i) {
assert(i < N);
double *r = res + i * dim;
Element elem(i, &src);
assert(elem.i() == i); // Point (1)
_iter = i; // Save the iteration number
this->eval(dim, elem, r);
}
}
...
...
static void eval (int dim, Element elem, double *r)
{
// Check for difference
if (elem.i() != _iter)
printf("[%d] _iter=%x != %x\n", omp_get_thread_num(), _iter, elem.i());
assert(elem.i() < elem.size()); // This is where the program fails Point (4)
for (int d = 0; d != dim; ++d)
r[d] = elem.src();
}
...
似乎随机的值
elem.i_
成为在不同线程中传递给 void eval_dispatch(int dim, Element elem, double *res, void (*) (int, Element, double *))
的值的糟糕混合.这种情况在每次运行中发生数百次,但您只能看到一次 elem.i_
的值。变得足够大以触发断言。有时会发生混合值没有超过容器的大小,然后代码在没有断言的情况下完成执行。此外,您在断言后的调试 session 期间看到的是 VS 调试器无法正确处理多线程代码:)这只发生在未优化的 64 位模式下。它不会发生在 32 位代码(调试和发布)中。除非禁用优化,否则它也不会发生在 64 位发布代码中。如果拨打
this->eval()
也不会发生这种情况。在临界区:#pragma omp parallel for default(none) shared(N, dim, src, res)
for (int i = 0; i < N; ++i) {
...
#pragma omp critical
this->eval(dim, elem, r);
}
}
但这样做会抵消 OpenMP 的好处。这表明调用链下游的某些事情是以不安全的方式执行的。我检查了汇编代码,但找不到确切的原因。我真的很困惑,因为 MSVC 实现了
Element
的隐式复制构造函数类使用简单的按位复制(它甚至是内联的)并且所有操作都在堆栈上完成。这让我想起了一个事实,即 Sun 的(现在是 Oracle 的)编译器坚持认为,如果启用 OpenMP 支持,它应该提高优化级别。不幸的是
/openmp
的文档MSDN 中的选项没有说明可能来自“错误”优化级别的可能相互引用。这也可能是一个错误。如果可以访问,我应该使用另一个版本的 VS 进行测试。编辑:我按照 promise 进行了更深入的挖掘,并在英特尔 Parallel Inspector 2011 中运行了代码。它发现了一种符合预期的数据竞争模式。显然,当这一行被执行时:
this->eval(dim, elem, r);
elem
的临时拷贝创建并通过地址传递给 eval()
Windows x64 ABI 要求的方法。奇怪的事情来了:这个临时拷贝的位置不在实现并行区域的 funclet 的堆栈上(顺便说一下,MSVC 编译器将其称为 Evaluator$omp$1<Implementation>::operator()
),正如人们所期望的那样,而是将其地址作为funclet 的第一个参数。由于此参数在所有线程中都是一个且相同,这意味着进一步传递给 this->eval()
的临时拷贝实际上在所有线程之间共享,这很荒谬但仍然是正确的,因为人们可以很容易地观察到:...
void eval (int dim, Element elem, double *res)
{
printf("[%d] In Base::eval() &elem = %p\n", omp_get_thread_num(), &elem);
// Dispatch the call from Evaluation<Derived>
eval_dispatch(dim, elem, res, &Derived::eval); // Point (2)
}
...
...
#pragma omp parallel for default(none) shared(N, dim, src, res)
for (int i = 0; i < N; ++i) {
...
Element elem(i, &src);
...
printf("[%d] In parallel region &elem = %p\n", omp_get_thread_num(), &elem);
this->eval(dim, elem, r);
}
}
...
运行此代码会产生类似于以下内容的输出:
[0] Parallel region &elem = 000000000030F348 (a)
[0] Base::eval() &elem = 000000000030F630
[0] Parallel region &elem = 000000000030F348 (a)
[0] Base::eval() &elem = 000000000030F630
[1] Parallel region &elem = 000000000292F9B8 (b)
[1] Base::eval() &elem = 000000000030F630 <---- !!
[1] Parallel region &elem = 000000000292F9B8 (b)
[1] Base::eval() &elem = 000000000030F630 <---- !!
不出所料
elem
在执行并行区域的每个线程中具有不同的地址(点 (a)
和 (b)
)。但是请注意传递给 Base::eval()
的临时拷贝。在每个线程中具有相同的地址。我相信这是一个编译器错误,它使 Element
的隐式复制构造函数|使用共享变量。这可以通过查看传递给 Base::eval()
的地址轻松验证。 - 它位于 N
地址之间的某处和 src
,即在共享变量块中。对汇编源代码的进一步检查表明,临时位置的地址确实作为参数传递给了 _vcomp_fork()
。函数来自 vcomp100.dll
它实现了 OpenMP fork/join 模型的 fork 部分。由于基本上没有编译器选项可以影响这种行为,除了启用优化导致
Base::eval()
, Base::eval_dispatch()
, 和 Implementation::eval()
所有都被内联,因此没有 elem
的临时拷贝曾经做过,我发现的唯一解决方法是:1) 制作
Element elem
论据 Base::eval()
引用:void eval (int dim, Element& elem, double *res)
{
eval_dispatch(dim, elem, res, &Derived::eval); // Point (2)
}
这确保了
elem
的本地拷贝在 Evaluator<Implementation>::operator()
中实现并行区域的 funclet 的堆栈中被传递而不是共享的临时拷贝。这进一步通过值作为另一个临时拷贝传递给 Base::eval_dispatch()
但它保留了正确的值,因为这个新的临时拷贝在 Base::eval()
的堆栈中。而不是在共享变量块中。2) 为
Element
提供显式复制构造函数:Element (const Element& e) : i_(e.i_), src_(e.src_) {}
我建议您使用显式复制构造函数,因为它不需要对源代码进行进一步更改。
显然,这种行为也存在于 MSVS 2008 中。我必须检查它是否也存在于 MSVS 2012 中,并可能向 MS 提交错误报告。
此错误不会在 32 位代码中显示,因为每个按值传递的对象的整个值都被推送到调用堆栈上,而不仅仅是指向它的指针。
关于c++ - 复制对象时,带有 MSVC 2010 Debug 的 OpenMP 会生成奇怪的错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/11479337/