vaapi_encode: Warn if input has cropping information
authorMark Thompson <sw@jkqxz.net>
Sun, 31 Mar 2019 14:39:44 +0000 (15:39 +0100)
committerMark Thompson <sw@jkqxz.net>
Sun, 2 Jun 2019 16:30:41 +0000 (17:30 +0100)
Cropping is not supported by VAAPI encode.

libavcodec/vaapi_encode.c
libavcodec/vaapi_encode.h

index 2dda451..c3d8944 100644 (file)
@@ -913,6 +913,21 @@ static int vaapi_encode_clear_old(AVCodecContext *avctx)
     return 0;
 }
 
+static int vaapi_encode_check_frame(AVCodecContext *avctx,
+                                    const AVFrame *frame)
+{
+    VAAPIEncodeContext *ctx = avctx->priv_data;
+
+    if ((frame->crop_top  || frame->crop_bottom ||
+         frame->crop_left || frame->crop_right) && !ctx->crop_warned) {
+        av_log(avctx, AV_LOG_WARNING, "Cropping information on input "
+               "frames ignored due to lack of API support.\n");
+        ctx->crop_warned = 1;
+    }
+
+    return 0;
+}
+
 int ff_vaapi_encode_send_frame(AVCodecContext *avctx, const AVFrame *frame)
 {
     VAAPIEncodeContext *ctx = avctx->priv_data;
@@ -923,6 +938,10 @@ int ff_vaapi_encode_send_frame(AVCodecContext *avctx, const AVFrame *frame)
         av_log(avctx, AV_LOG_DEBUG, "Input frame: %ux%u (%"PRId64").\n",
                frame->width, frame->height, frame->pts);
 
+        err = vaapi_encode_check_frame(avctx, frame);
+        if (err < 0)
+            return err;
+
         pic = vaapi_encode_alloc(avctx);
         if (!pic)
             return AVERROR(ENOMEM);
index 44a8db5..12efee2 100644 (file)
@@ -314,6 +314,10 @@ typedef struct VAAPIEncodeContext {
     int idr_counter;
     int gop_counter;
     int end_of_stream;
+
+    // The encoder does not support cropping information, so warn about
+    // it the first time we encounter any nonzero crop fields.
+    int             crop_warned;
 } VAAPIEncodeContext;
 
 enum {