vp9: fix parser return values in error case