avformat/brstm: fix overflow
authorPaul B Mahol <onemda@gmail.com>
Wed, 23 Sep 2015 17:07:48 +0000 (19:07 +0200)
committerPaul B Mahol <onemda@gmail.com>
Wed, 23 Sep 2015 17:10:13 +0000 (19:10 +0200)
Signed-off-by: Paul B Mahol <onemda@gmail.com>
libavformat/brstm.c

index f2bc038..a781163 100644 (file)
@@ -389,6 +389,10 @@ static int read_packet(AVFormatContext *s, AVPacket *pkt)
         codec->codec_id == AV_CODEC_ID_ADPCM_THP_LE) {
         uint8_t *dst;
 
+        if (size > (INT_MAX - 32 - 4) ||
+            (32 + 4 + size) > (INT_MAX / codec->channels) ||
+            (32 + 4 + size) * codec->channels > INT_MAX - 8)
+            return AVERROR_INVALIDDATA;
         if (av_new_packet(pkt, 8 + (32 + 4 + size) * codec->channels) < 0)
             return AVERROR(ENOMEM);
         dst = pkt->data;