avcodec/mpegvideo: make mc_mb_var_sum / mb_var_sum 64bit
authorMichael Niedermayer <michaelni@gmx.at>
Fri, 21 Mar 2014 17:24:56 +0000 (18:24 +0100)
committerMichael Niedermayer <michaelni@gmx.at>
Fri, 21 Mar 2014 17:24:56 +0000 (18:24 +0100)
commite92a78a4095d69d876bef189225608a35166dc4a
tree2592e10ddf0ae1e3e366fc20b87b6c0ff4e9c8a3
parentc3272674c943474ec6bfcd75e0d9b4b4ca95ff32
avcodec/mpegvideo: make mc_mb_var_sum / mb_var_sum 64bit

This avoids a hypothetical integer overflow with very high resolution video

Signed-off-by: Michael Niedermayer <michaelni@gmx.at>
libavcodec/mpegvideo.h
libavcodec/mpegvideo_enc.c
libavcodec/ratecontrol.c