avcodec/libxvid: check for av_malloc*() failures