Merge commit '7d2a6826912b629f17f3b0c5268e334fa123c4c9'
authorMichael Niedermayer <michaelni@gmx.at>
Sun, 31 May 2015 23:52:01 +0000 (01:52 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Sun, 31 May 2015 23:57:29 +0000 (01:57 +0200)
* commit '7d2a6826912b629f17f3b0c5268e334fa123c4c9':
  huffyuv: Check memory allocation

See: 4a722a5cab15d5aefbf4dd83baa8be5a046580ca
Merged-by: Michael Niedermayer <michaelni@gmx.at>
1  2 
libavcodec/huffyuvenc.c

@@@ -219,19 -150,12 +219,17 @@@ static av_cold int encode_init(AVCodecC
      ff_huffyuv_common_init(avctx);
      ff_huffyuvencdsp_init(&s->hencdsp);
  
 -    avctx->extradata = av_mallocz(1024*30); // 256*3+4 == 772
 -    avctx->stats_out = av_mallocz(1024*30); // 21*256*3(%llu ) + 3(\n) + 1(0) = 16132
 +    avctx->extradata = av_mallocz(3*MAX_N + 4);
-     if (!avctx->extradata)
-         return AVERROR(ENOMEM);
 +    if (s->flags&CODEC_FLAG_PASS1) {
 +#define STATS_OUT_SIZE 21*MAX_N*3 + 4
 +        avctx->stats_out = av_mallocz(STATS_OUT_SIZE); // 21*256*3(%llu ) + 3(\n) + 1(0) = 16132
 +        if (!avctx->stats_out)
 +            return AVERROR(ENOMEM);
 +    }
      s->version = 2;
  
      avctx->coded_frame = av_frame_alloc();
-     if (!avctx->coded_frame)
 -    if (!avctx->extradata || !avctx->stats_out || !avctx->coded_frame)
++    if (!avctx->extradata || !avctx->coded_frame)
          return AVERROR(ENOMEM);
  
      avctx->coded_frame->pict_type = AV_PICTURE_TYPE_I;