Merge commit '1967cd4e4c1cd96dfa195ce14e4b212ddb70586d'
authorMichael Niedermayer <michaelni@gmx.at>
Sat, 25 Oct 2014 01:27:13 +0000 (03:27 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Sat, 25 Oct 2014 01:27:13 +0000 (03:27 +0200)
* commit '1967cd4e4c1cd96dfa195ce14e4b212ddb70586d':
  audiointerleave: check av_new_packet return value

Conflicts:
libavformat/audiointerleave.c

See: 3ca8a2328878ebdb203e49d0a060df1b5337a370
Merged-by: Michael Niedermayer <michaelni@gmx.at>
1  2 
libavformat/audiointerleave.c

index 80bf7685798148928e4d049e11b18dafcee1539e,ba78d4e9884ce4892626c1d1ae797019b7373f96..b64010ff44c940a629f9e453eda3d6248bf9691c
@@@ -3,20 -3,20 +3,20 @@@
   *
   * Copyright (c) 2009 Baptiste Coudurier <baptiste dot coudurier at gmail dot com>
   *
 - * This file is part of Libav.
 + * This file is part of FFmpeg.
   *
 - * Libav is free software; you can redistribute it and/or
 + * FFmpeg is free software; you can redistribute it and/or
   * modify it under the terms of the GNU Lesser General Public
   * License as published by the Free Software Foundation; either
   * version 2.1 of the License, or (at your option) any later version.
   *
 - * Libav is distributed in the hope that it will be useful,
 + * FFmpeg is distributed in the hope that it will be useful,
   * but WITHOUT ANY WARRANTY; without even the implied warranty of
   * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
   * Lesser General Public License for more details.
   *
   * You should have received a copy of the GNU Lesser General Public
 - * License along with Libav; if not, write to the Free Software
 + * License along with FFmpeg; if not, write to the Free Software
   * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
   */
  
@@@ -34,7 -34,7 +34,7 @@@ void ff_audio_interleave_close(AVFormat
          AudioInterleaveContext *aic = st->priv_data;
  
          if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO)
 -            av_fifo_free(aic->fifo);
 +            av_fifo_freep(&aic->fifo);
      }
  }
  
@@@ -45,12 -45,8 +45,12 @@@ int ff_audio_interleave_init(AVFormatCo
      int i;
  
      if (!samples_per_frame)
 -        return -1;
 +        return AVERROR(EINVAL);
  
 +    if (!time_base.num) {
 +        av_log(s, AV_LOG_ERROR, "timebase not set for audio interleave\n");
 +        return AVERROR(EINVAL);
 +    }
      for (i = 0; i < s->nb_streams; i++) {
          AVStream *st = s->streams[i];
          AudioInterleaveContext *aic = st->priv_data;
                                  av_get_bits_per_sample(st->codec->codec_id)) / 8;
              if (!aic->sample_size) {
                  av_log(s, AV_LOG_ERROR, "could not compute sample size\n");
 -                return -1;
 +                return AVERROR(EINVAL);
              }
              aic->samples_per_frame = samples_per_frame;
              aic->samples = aic->samples_per_frame;
              aic->time_base = time_base;
  
              aic->fifo_size = 100* *aic->samples;
 -            aic->fifo= av_fifo_alloc(100 * *aic->samples);
 +            if (!(aic->fifo= av_fifo_alloc_array(100, *aic->samples)))
 +                return AVERROR(ENOMEM);
          }
      }
  
@@@ -80,13 -75,14 +80,14 @@@ static int interleave_new_audio_packet(
  {
      AVStream *st = s->streams[stream_index];
      AudioInterleaveContext *aic = st->priv_data;
+     int ret;
      int size = FFMIN(av_fifo_size(aic->fifo), *aic->samples * aic->sample_size);
      if (!size || (!flush && size == av_fifo_size(aic->fifo)))
          return 0;
  
-     if (av_new_packet(pkt, size) < 0)
-         return AVERROR(ENOMEM);
+     ret = av_new_packet(pkt, size);
+     if (ret < 0)
+         return ret;
      av_fifo_generic_read(aic->fifo, pkt->data, size, NULL);
  
      pkt->dts = pkt->pts = aic->dts;
@@@ -114,7 -110,7 +115,7 @@@ int ff_audio_rechunk_interleave(AVForma
              unsigned new_size = av_fifo_size(aic->fifo) + pkt->size;
              if (new_size > aic->fifo_size) {
                  if (av_fifo_realloc2(aic->fifo, new_size) < 0)
 -                    return -1;
 +                    return AVERROR(ENOMEM);
                  aic->fifo_size = new_size;
              }
              av_fifo_generic_write(aic->fifo, pkt->data, pkt->size, NULL);
          AVStream *st = s->streams[i];
          if (st->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
              AVPacket new_pkt;
 -            while (interleave_new_audio_packet(s, &new_pkt, i, flush))
 +            while ((ret = interleave_new_audio_packet(s, &new_pkt, i, flush)) > 0) {
                  if ((ret = ff_interleave_add_packet(s, &new_pkt, compare_ts)) < 0)
                      return ret;
 +            }
 +            if (ret < 0)
 +                return ret;
          }
      }