Fix nonsense MPEG-4 hwaccel code.
authorReimar Döffinger <Reimar.Doeffinger@gmx.de>
Wed, 21 Aug 2013 03:04:46 +0000 (05:04 +0200)
committerReimar Döffinger <Reimar.Doeffinger@gmx.de>
Sun, 22 Sep 2013 14:08:35 +0000 (16:08 +0200)
commit2aa8e33d7d86fbc4a4060c363a5733067c160654
treea2ffa32b10eca8832b2cfbb4065d1caef8205b5f
parent05b7a635dc1e5266fb367ce8b0019a0830317879
Fix nonsense MPEG-4 hwaccel code.

Issues with the code:
1) The skip_bits_long breaks packed B-frames since we skip
of the packed frame, even for VDPAU.
2) Calling ff_h263_find_resync_marker_reverse is nonsense for MPEG-4,
and for H.263 the only code using this (vaapi_mpeg4) explicitly reverts
this change!
3) mb_x/mb_y are always 0 when vaapi_mpeg4_decode_slice, so doing
computations with them is just obfuscation
4) due to not updating mb_y the code would always go into the error
resilience case, causing nonsense error messages and maybe further
issues.

While tested to fix the data provided to the decoder in case of
VDPAU so it is the same as for the non-hwaccel code, the VA-API code
was not tested to still work, and adding regression testing even
as a quick hack is much more complicated for it.

Signed-off-by: Reimar Döffinger <Reimar.Doeffinger@gmx.de>
libavcodec/h263dec.c
libavcodec/vaapi_mpeg4.c