android - 如何设置OpenCV的相机以纵向和全屏显示预览

Question

我正在尝试创建一个 Android 应用程序。它始终以纵向模式显示相机预览，并对(某些)帧执行一些繁重的图像处理操作。因此，我正在使用 OpenCV(两者都是 OpenCV4Android 和 native C/C++ 组件)。问题是，当使用 CameraBridgeViewBase 或 JavaCameraView 类时，OnCameraFrame 返回的帧处于横向模式。

现在，如果 Activity 被定义为使用横向模式(就像 OpenCV 的示例应用程序一样)，预览看起来不错，但任何其他 UI View 都会倾斜 90 度(并且如前所述，设备应该以纵向模式运行我的应用程序模式)。

如果 Activity 设置为纵向模式，UI View 显然看起来是正确的，但相机预览会倾斜 90 度。

如果我尝试通过像这样操作 OnCameraFrame 上的图像矩阵来旋转每一帧:

public Mat onCameraFrame(CvCameraViewFrame inputFrame) {
  mRgba = inputFrame.rgba();
  Core.transpose(mRgba,mRgbaT);
  Core.flip(mRgbaT, mRgbaT, -1);
  Imgproc.resize(mRgbaT, mRgbaT, mRgba.size());

  return mRgbaT;
}

然后每个相机的帧填充设备的宽度而不是它的高度(结果，它看起来被拉伸(stretch))，另外 - 它大大降低了帧速率。尝试将图像调整为全屏(或与原始帧大小不同的任何大小)会导致根本不显示任何图像(黑屏)并引发以下异常:

E/CameraBridge(11183): Utils.matToBitmap() throws an exception: /home/reports/ci/slave_desktop/50-SDK/opencv/modules/java/generator/src/cpp/utils.cpp:97: error: (-215) src.dims == 2 && info.height == (uint32_t)src.rows && info.width == (uint32_t)src.cols in function void Java_org_opencv_android_Utils_nMatToBitmap2(JNIEnv*, jclass, jlong, jobject, jboolean)

所以，我的问题是:如何在纵向模式和全屏模式下显示 OpenCV 的相机预览？

不幸的是，由于我的初学者 SO 声誉，我无法附上屏幕截图。另外，我知道之前有人在 SO 上提出过类似的问题，但似乎没有一个答案能完全解决问题。

Answer 1

我找到了一个解决方案: 创建一个从 CameraBridgeViewBase 扩展的自定义相机类，其方式与 JavaCameraView 从它扩展的方式类似(大多数部分甚至相同)，但是在实现内部 JavaCameraFrame 类时，将返回 Mat 对象的方法替换为如下所示:

    public Mat rgba() {
        Imgproc.cvtColor(mYuvFrameData, mRgba, Imgproc.COLOR_YUV2BGR_NV12, 4);
        if (mRotated != null)
            mRotated.release();
        mRotated = mRgba.t();
        Core.flip(mRotated, mRotated, -1);
        return mRotated;
    }

有一个很好的例子here (第一个答案，由 Zarokka 提供)。性能有所下降，但远不如在 OnCameraFrame 中旋转输出垫时严重(无论如何都不能完全解决问题)。我在 640*480 分辨率预览帧大小(全屏)上使用它，它看起来不错，即使不是那么新的设备也能流畅运行。