xxan: Disallow odd width
authorMartin Storsjö <martin@martin.st>
Sat, 28 Sep 2013 22:04:05 +0000 (01:04 +0300)
committerMartin Storsjö <martin@martin.st>
Sun, 29 Sep 2013 17:02:32 +0000 (20:02 +0300)
Decoded data is always written in pairs within this decoder.
This fixes writes out of bounds.

Reported-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC: libav-stable@libav.org
Signed-off-by: Martin Storsjö <martin@martin.st>
libavcodec/xxan.c

index 2bc9ff6..05ce7ff 100644 (file)
@@ -50,6 +50,10 @@ static av_cold int xan_decode_init(AVCodecContext *avctx)
         av_log(avctx, AV_LOG_ERROR, "Invalid frame height: %d.\n", avctx->height);
         return AVERROR(EINVAL);
     }
+    if (avctx->width & 1) {
+        av_log(avctx, AV_LOG_ERROR, "Invalid frame width: %d.\n", avctx->width);
+        return AVERROR(EINVAL);
+    }
 
     s->buffer_size = avctx->width * avctx->height;
     s->y_buffer = av_malloc(s->buffer_size);