validate input data and linesizes
authorramiro <ramiro@b3059339-0415-0410-9bf9-f77b7e298cf2>
Wed, 18 Aug 2010 19:37:37 +0000 (19:37 +0000)
committerramiro <ramiro@b3059339-0415-0410-9bf9-f77b7e298cf2>
Wed, 18 Aug 2010 19:37:37 +0000 (19:37 +0000)
git-svn-id: svn://git.mplayerhq.hu/mplayer/trunk@31976 b3059339-0415-0410-9bf9-f77b7e298cf2

libswscale/swscale.c

index 3605836..d2e1146 100644 (file)
@@ -1827,6 +1827,21 @@ static void reset_ptr(const uint8_t* src[], int format)
     }
 }
 
+static int check_image_pointers(uint8_t *data[4], enum PixelFormat pix_fmt,
+                                const int linesizes[4])
+{
+    const AVPixFmtDescriptor *desc = &av_pix_fmt_descriptors[pix_fmt];
+    int i;
+
+    for (i = 0; i < 4; i++) {
+        int plane = desc->comp[i].plane;
+        if (!data[plane] || !linesizes[plane])
+            return 0;
+    }
+
+    return 1;
+}
+
 /**
  * swscale wrapper, so we don't need to export the SwsContext.
  * Assumes planar YUV to be in YUV order instead of YVU.
@@ -1842,6 +1857,15 @@ int sws_scale(SwsContext *c, const uint8_t* const src[], const int srcStride[],
     if (srcSliceH == 0)
         return 0;
 
+    if (!check_image_pointers(src, c->srcFormat, srcStride)) {
+        av_log(c, AV_LOG_ERROR, "bad src image pointers\n");
+        return 0;
+    }
+    if (!check_image_pointers(dst, c->dstFormat, dstStride)) {
+        av_log(c, AV_LOG_ERROR, "bad dst image pointers\n");
+        return 0;
+    }
+
     if (c->sliceDir == 0 && srcSliceY != 0 && srcSliceY + srcSliceH != c->srcH) {
         av_log(c, AV_LOG_ERROR, "Slices start in the middle!\n");
         return 0;