Calculate line size correctly for bit depths < 8
authorKostya Shishkov <kostya.shishkov@gmail.com>
Tue, 23 Sep 2008 08:32:18 +0000 (08:32 +0000)
committerKostya Shishkov <kostya.shishkov@gmail.com>
Tue, 23 Sep 2008 08:32:18 +0000 (08:32 +0000)
Originally committed as revision 15388 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/bmp.c

index ff34ab7..6f815e6 100644 (file)
@@ -175,7 +175,7 @@ static int bmp_decode_frame(AVCodecContext *avctx,
     dsize = buf_size - hsize;
 
     /* Line size in file multiple of 4 */
-    n = (avctx->width * (depth / 8) + 3) & ~3;
+    n = ((avctx->width * depth) / 8 + 3) & ~3;
 
     if(n * avctx->height > dsize){
         av_log(avctx, AV_LOG_ERROR, "not enough data (%d < %d)\n",