h264: limit allowed pred modes in ff_h264_check_intra_pred_mode() to 3
authorAnton Khirnov <anton@khirnov.net>
Thu, 28 Nov 2013 09:54:35 +0000 (10:54 +0100)
committerReinhard Tartler <siretart@tauware.de>
Sun, 1 Jun 2014 00:05:19 +0000 (20:05 -0400)
commit51ae8e26af8f5b26efb41edc0fe4812368d16ae9
treeffb96bbd8e96710e6373c23fe536b72e92571515
parentc4033cd4eb921a9cc8deb513efc6d6a6ba3b2163
h264: limit allowed pred modes in ff_h264_check_intra_pred_mode() to 3

Higher modes are not allowed for 16x16/chroma, which is what this
function is used for. Otherwise this function would return 0 (vertical
prediction) for invalid higher modes, which could result in invalid
reads.

Found-by: Mateusz "j00ru" Jurczyk and Gynvael Coldwind
CC:libav-stable@libav.org
libavcodec/h264.c