avcodec/nellymoserenc: fix sign error