Merge commit 'a56a9e65c6a17dd8b6303dd45bdc3e3368093092' into release/2.2
authorMichael Niedermayer <michaelni@gmx.at>
Sun, 11 May 2014 14:44:08 +0000 (16:44 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Sun, 11 May 2014 14:44:08 +0000 (16:44 +0200)
* commit 'a56a9e65c6a17dd8b6303dd45bdc3e3368093092':
  swscale: Fix an undefined behaviour

Merged-by: Michael Niedermayer <michaelni@gmx.at>
1  2 
libswscale/utils.c

@@@ -387,9 -324,9 +387,9 @@@ static av_cold int initFilter(int16_t *
          FF_ALLOC_OR_GOTO(NULL, filter,
                           dstW * sizeof(*filter) * filterSize, fail);
  
 -        xDstInSrc = xInc - 0x10000;
 +        xDstInSrc = ((dstPos*(int64_t)xInc)>>7) - ((srcPos*0x10000LL)>>7);
          for (i = 0; i < dstW; i++) {
-             int xx = (xDstInSrc - ((filterSize - 2) << 16)) / (1 << 17);
+             int xx = (xDstInSrc - ((int64_t)(filterSize - 2) << 16)) / (1 << 17);
              int j;
              (*filterPos)[i] = xx;
              for (j = 0; j < filterSize; j++) {