wmaenc: limit allowed sample rate to 48kHz
authorJustin Ruggles <justin.ruggles@gmail.com>
Fri, 2 Mar 2012 21:27:57 +0000 (16:27 -0500)
committerReinhard Tartler <siretart@tauware.de>
Sun, 4 Mar 2012 20:26:29 +0000 (21:26 +0100)
ff_wma_init() allows up to 50kHz, but this generates an exponent band
size table that requires 65 bands. The code assumes 25 bands in many
places, and using sample rates higher than 48kHz will lead to buffer
overwrites.

CC:libav-stable@libav.org
(cherry picked from commit 1ec075cfecac01f9a289965db06f76365b0b1737)

Signed-off-by: Reinhard Tartler <siretart@tauware.de>
libavcodec/wmaenc.c

index bc17f5b..5135b98 100644 (file)
@@ -39,6 +39,12 @@ static int encode_init(AVCodecContext * avctx){
         return AVERROR(EINVAL);
     }
 
+    if (avctx->sample_rate > 48000) {
+        av_log(avctx, AV_LOG_ERROR, "sample rate is too high: %d > 48kHz",
+               avctx->sample_rate);
+        return AVERROR(EINVAL);
+    }
+
     if(avctx->bit_rate < 24*1000) {
         av_log(avctx, AV_LOG_ERROR, "bitrate too low: got %i, need 24000 or higher\n",
                avctx->bit_rate);