Merge commit '5dbd491eb38efab1d1313d4129ed76ab2e98176d'
authorMichael Niedermayer <michaelni@gmx.at>
Wed, 24 Jun 2015 19:06:54 +0000 (21:06 +0200)
committerMichael Niedermayer <michaelni@gmx.at>
Wed, 24 Jun 2015 19:06:58 +0000 (21:06 +0200)
* commit '5dbd491eb38efab1d1313d4129ed76ab2e98176d':
  TextureDSP: fix erroneous condition which produced blocky output for DXT

Merged-by: Michael Niedermayer <michaelni@gmx.at>
libavcodec/texturedspenc.c

index 577e1c4..5bd0777 100644 (file)
@@ -363,7 +363,7 @@ static int refine_colors(const uint8_t *block, ptrdiff_t stride,
     const int prods[4] = { 0x090000, 0x000900, 0x040102, 0x010402 };
 
     /* Check if all pixels have the same index */
-    if (mask ^ (mask << 2) < 4) {
+    if ((mask ^ (mask << 2)) < 4) {
         /* If so, linear system would be singular; solve using optimal
          * single-color match on average color. */
         int r = 8, g = 8, b = 8;