h264: limit allowed pred modes in ff_h264_check_intra_pred_mode() to 3
authorAnton Khirnov <anton@khirnov.net>
Thu, 28 Nov 2013 09:54:35 +0000 (10:54 +0100)
committerSean McGovern <gseanmcg@gmail.com>
Mon, 14 Apr 2014 20:55:38 +0000 (16:55 -0400)
commit175b53d051cf9e17583106c828c35d169f335ea3
tree4a92d95a9285c6fe020fbe1294c33b4d55c2d4cb
parent7f604a048e9b6128cdf9ce7e95f21d1a9822ba39
h264: limit allowed pred modes in ff_h264_check_intra_pred_mode() to 3

Higher modes are not allowed for 16x16/chroma, which is what this
function is used for. Otherwise this function would return 0 (vertical
prediction) for invalid higher modes, which could result in invalid
reads.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org
libavcodec/h264.c