java - 在 Android 上使用来自 javacv 的 ffmpeg 编码视频导致 native 代码崩溃

标签 java android opencv ffmpeg video-encoding

注意:自从最初提出这个问题以来,我已经更新了这个,以反射(reflect)我在将实时相机图像加载到 ffmpeg 库中所学到的一些知识。

我正在使用为 Android 编译的 javacv 中的 ffmpeg 为我的应用程序编码/解码视频。 (请注意,最初,我尝试使用 ffmpeg-java,但它有一些不兼容的库)

原始问题: 我遇到的问题是我目前将每一帧作为 Bitmap(只是一个普通的 android.graphics.位图),我不知道如何将其填充到编码器中。

javacvffmpeg中的解决方案:使用avpicture_fill(),Android的格式应该是YUV420P,虽然我无法验证直到我的编码器问题(如下)得到解决。

avcodec.avpicture_fill((AVPicture)mFrame, picPointer, avutil.PIX_FMT_YUV420P, VIDEO_WIDTH, VIDEO_HEIGHT)

现在的问题:本应实际编码数据的行使线程崩溃。我得到一个我无法理解的大 native 代码堆栈跟踪。有人有什么建议吗?

这是我用来实例化所有 ffmpeg 库的代码:

    avcodec.avcodec_register_all();
    avcodec.avcodec_init();
    avformat.av_register_all();

    mCodec = avcodec.avcodec_find_encoder(avcodec.CODEC_ID_H263);
    if (mCodec == null)
    {
        Logging.Log("Unable to find encoder.");
        return;
    }
    Logging.Log("Found encoder.");

    mCodecCtx = avcodec.avcodec_alloc_context();
    mCodecCtx.bit_rate(300000);
    mCodecCtx.codec(mCodec);
    mCodecCtx.width(VIDEO_WIDTH);
    mCodecCtx.height(VIDEO_HEIGHT);
    mCodecCtx.pix_fmt(avutil.PIX_FMT_YUV420P);
    mCodecCtx.codec_id(avcodec.CODEC_ID_H263);
    mCodecCtx.codec_type(avutil.AVMEDIA_TYPE_VIDEO);
    AVRational ratio = new AVRational();
    ratio.num(1);
    ratio.den(30);
    mCodecCtx.time_base(ratio);
    mCodecCtx.coder_type(1);
    mCodecCtx.flags(mCodecCtx.flags() | avcodec.CODEC_FLAG_LOOP_FILTER);
    mCodecCtx.me_cmp(avcodec.FF_LOSS_CHROMA);
    mCodecCtx.me_method(avcodec.ME_HEX);
    mCodecCtx.me_subpel_quality(6);
    mCodecCtx.me_range(16);
    mCodecCtx.gop_size(30);
    mCodecCtx.keyint_min(10);
    mCodecCtx.scenechange_threshold(40);
    mCodecCtx.i_quant_factor((float) 0.71);
    mCodecCtx.b_frame_strategy(1);
    mCodecCtx.qcompress((float) 0.6);
    mCodecCtx.qmin(10);
    mCodecCtx.qmax(51);
    mCodecCtx.max_qdiff(4);
    mCodecCtx.max_b_frames(1);
    mCodecCtx.refs(2);
    mCodecCtx.directpred(3);
    mCodecCtx.trellis(1);
    mCodecCtx.flags2(mCodecCtx.flags2() | avcodec.CODEC_FLAG2_BPYRAMID | avcodec.CODEC_FLAG2_WPRED | avcodec.CODEC_FLAG2_8X8DCT | avcodec.CODEC_FLAG2_FASTPSKIP);

    if (avcodec.avcodec_open(mCodecCtx, mCodec) == 0)
    {
        Logging.Log("Unable to open encoder.");
        return;
    }
    Logging.Log("Encoder opened.");

    mFrameSize = avcodec.avpicture_get_size(avutil.PIX_FMT_YUV420P, VIDEO_WIDTH, VIDEO_HEIGHT);
    Logging.Log("Frame size - '" + mFrameSize + "'.");
    //mPic = new AVPicture(mPicSize);
    mFrame = avcodec.avcodec_alloc_frame();
    if (mFrame == null)
    {
        Logging.Log("Unable to alloc frame.");
    }

这是我希望接下来能够执行的:

    BytePointer picPointer = new BytePointer(data);
    int bBuffSize = mFrameSize;

    BytePointer bBuffer = new BytePointer(bBuffSize);

    int picSize = 0;
    if ((picSize = avcodec.avpicture_fill((AVPicture)mFrame, picPointer, avutil.PIX_FMT_YUV420P, VIDEO_WIDTH, VIDEO_HEIGHT)) <= 0)
    {
        Logging.Log("Couldn't convert preview to AVPicture (" + picSize + ")");
        return;
    }
    Logging.Log("Converted preview to AVPicture (" + picSize + ")");

    VCAP_Package vPackage = new VCAP_Package();

    if (mCodecCtx.isNull())
    {
        Logging.Log("Codec Context is null!");
    }

    //encode the image
    int size = avcodec.avcodec_encode_video(mCodecCtx, bBuffer, bBuffSize, mFrame);

    int totalSize = 0;
    while (size >= 0)
    {
        totalSize += size;
        Logging.Log("Encoded '" + size + "' bytes.");
        //Get any delayed frames
        size = avcodec.avcodec_encode_video(mCodecCtx, bBuffer, bBuffSize, null); 
    }
    Logging.Log("Finished encoding. (" + totalSize + ")");

但是,截至目前,我不知道如何将位图放入正确的部分,或者我是否正确设置了该设置。

关于代码的几点说明: - VIDEO_WIDTH = 352 - VIDEO_HEIGHT = 288 - VIDEO_FPS = 30;

最佳答案

经过大量搜索,我发现您必须以一种相当严格且笨拙的方式加载指针。这就是我让一切正常工作的方式:

编解码器设置:

    avcodec.avcodec_register_all();
    avcodec.avcodec_init();
    avformat.av_register_all();

    /* find the H263 video encoder */
    mCodec = avcodec.avcodec_find_encoder(avcodec.CODEC_ID_H263);
    if (mCodec == null) {
        Log.d("TEST_VIDEO", "avcodec_find_encoder() run fail.");
    }

    mCodecCtx = avcodec.avcodec_alloc_context();
    picture = avcodec.avcodec_alloc_frame();

    /* put sample parameters */
    mCodecCtx.bit_rate(400000);
    /* resolution must be a multiple of two */
    mCodecCtx.width(VIDEO_WIDTH);
    mCodecCtx.height(VIDEO_HEIGHT);
    /* frames per second */
    AVRational avFPS = new AVRational();
    avFPS.num(1);
    avFPS.den(VIDEO_FPS);
    mCodecCtx.time_base(avFPS);
    mCodecCtx.pix_fmt(avutil.PIX_FMT_YUV420P);
    mCodecCtx.codec_id(avcodec.CODEC_ID_H263);
    mCodecCtx.codec_type(avutil.AVMEDIA_TYPE_VIDEO);

    /* open it */
    if (avcodec.avcodec_open(mCodecCtx, mCodec) < 0) {
        Log.d("TEST_VIDEO", "avcodec_open() run fail.");
    }

    /* alloc image and output buffer */
    output_buffer_size = 100000;
    output_buffer = avutil.av_malloc(output_buffer_size);

    size = mCodecCtx.width() * mCodecCtx.height();
    picture_buffer = avutil.av_malloc((size * 3) / 2); /* size for YUV 420 */

    picture.data(0, new BytePointer(picture_buffer));
    picture.data(1, picture.data(0).position(size));
    picture.data(2, picture.data(1).position(size / 4));
    picture.linesize(0, mCodecCtx.width());
    picture.linesize(1, mCodecCtx.width() / 2);
    picture.linesize(2, mCodecCtx.width() / 2);

处理预览数据:

    //(1)Convert byte[] first
    byte[] data420 = new byte[data.length];
    convert_yuv422_to_yuv420(data, data420, VIDEO_WIDTH, VIDEO_HEIGHT);

    //(2) Fill picture buffer
    int data1_offset = VIDEO_HEIGHT * VIDEO_WIDTH;
    int data2_offset = data1_offset * 5 / 4;
    int pic_linesize_0 = picture.linesize(0);
    int pic_linesize_1 = picture.linesize(1);
    int pic_linesize_2 = picture.linesize(2);

    //Y
    for(y = 0; y < VIDEO_HEIGHT; y++) 
    {
        for(x = 0; x < VIDEO_WIDTH; x++) 
        {
            picture.data(0).put((y * pic_linesize_0 + x), data420[y * VIDEO_WIDTH + x]);
        }
    }

    //Cb and Cr
    for(y = 0; y < VIDEO_HEIGHT / 2; y++) {
        for(x = 0; x < VIDEO_WIDTH / 2; x++) {
            picture.data(1).put((y * pic_linesize_1 + x), data420[data1_offset + y * VIDEO_WIDTH / 2 + x]);
            picture.data(2).put((y * pic_linesize_2 + x), data420[data2_offset + y * VIDEO_WIDTH / 2 + x]);
        }
    }

    //(2)Encode
    //Encode the image into output_buffer
    out_size = avcodec.avcodec_encode_video(mCodecCtx, new BytePointer(output_buffer), output_buffer_size, picture);
    Log.d("TEST_VIDEO", "Encoded '" + out_size + "' bytes");

    //Delayed frames
    for(; out_size > 0; i++) {
        out_size = avcodec.avcodec_encode_video(mCodecCtx, new BytePointer(output_buffer), output_buffer_size, null);
        Log.d("TEST_VIDEO", "Encoded '" + out_size + "' bytes");
        //fwrite(output_buffer, 1, out_size, file);
    }

我仍在努力打包数据,但可以在此处找到正在进行的测试项目@ http://code.google.com/p/test-video-encode/

关于java - 在 Android 上使用来自 javacv 的 ffmpeg 编码视频导致 native 代码崩溃,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/8515967/

相关文章:

c++ - 在 Qiana 上构建 opencv 失败

java - Android ListAdapter.getItemCount() 总是返回 0

java - 将 JSON 从 Elasticsearch 转换为 Java 对象

android - 通过 adb 或 monkeyrunner 添加联系人

android - 在 Android 上创建约会提醒的最佳方式是什么?

android - 升级到 Android Studio 3.0 后包 org.opencv.android 不存在

python - 在没有任何外部库的情况下获取图像的一部分,然后是该正方形的中心?

java - 这种多线程迭代安全吗?

java - 在java中将值插入到json数组的特定位置?

java - 使用 Volley MultiPart 上传 PDF、文档、视频