preserve alpha channel when converting rgb32 to bgr32 in plain C
[ffmpeg.git] / libswscale / yuv2rgb.c
index 3758f1b..af7f86f 100644 (file)
@@ -22,8 +22,8 @@
  *  GNU General Public License for more details.
  *
  *  You should have received a copy of the GNU General Public License
- *  along with GNU Make; see the file COPYING.  If not, write to
- *  the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.
+ *  along with mpeg2dec; if not, write to the Free Software
+ *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  *
  * MMX/MMX2 Template stuff from Michael Niedermayer (michaelni@gmx.at) (needed for fast movntq support)
  * 1,4,8bpp support by Michael Niedermayer (michaelni@gmx.at)
@@ -39,7 +39,6 @@
 #include "rgb2rgb.h"
 #include "swscale.h"
 #include "swscale_internal.h"
-#include "img_format.h" //FIXME try to reduce dependency of such stuff
 
 #ifdef HAVE_MLIB
 #include "yuv2rgb_mlib.c"
@@ -154,29 +153,29 @@ const uint8_t  __attribute__((aligned(8))) dither_8x8_220[8][8]={
 };
 #endif
 
-#if defined(ARCH_X86) || defined(ARCH_X86_64)
+#ifdef HAVE_MMX
 
 /* hope these constant values are cache line aligned */
-uint64_t attribute_used __attribute__((aligned(8))) mmx_00ffw = 0x00ff00ff00ff00ffULL;
-uint64_t attribute_used __attribute__((aligned(8))) mmx_redmask = 0xf8f8f8f8f8f8f8f8ULL;
-uint64_t attribute_used __attribute__((aligned(8))) mmx_grnmask = 0xfcfcfcfcfcfcfcfcULL;
+static uint64_t attribute_used __attribute__((aligned(8))) mmx_00ffw = 0x00ff00ff00ff00ffULL;
+static uint64_t attribute_used __attribute__((aligned(8))) mmx_redmask = 0xf8f8f8f8f8f8f8f8ULL;
+static uint64_t attribute_used __attribute__((aligned(8))) mmx_grnmask = 0xfcfcfcfcfcfcfcfcULL;
 
-uint64_t attribute_used __attribute__((aligned(8))) M24A=   0x00FF0000FF0000FFULL;
-uint64_t attribute_used __attribute__((aligned(8))) M24B=   0xFF0000FF0000FF00ULL;
-uint64_t attribute_used __attribute__((aligned(8))) M24C=   0x0000FF0000FF0000ULL;
+static uint64_t attribute_used __attribute__((aligned(8))) M24A=   0x00FF0000FF0000FFULL;
+static uint64_t attribute_used __attribute__((aligned(8))) M24B=   0xFF0000FF0000FF00ULL;
+static uint64_t attribute_used __attribute__((aligned(8))) M24C=   0x0000FF0000FF0000ULL;
 
 // the volatile is required because gcc otherwise optimizes some writes away not knowing that these
 // are read in the asm block
-volatile uint64_t attribute_used __attribute__((aligned(8))) b5Dither;
-volatile uint64_t attribute_used __attribute__((aligned(8))) g5Dither;
-volatile uint64_t attribute_used __attribute__((aligned(8))) g6Dither;
-volatile uint64_t attribute_used __attribute__((aligned(8))) r5Dither;
+static volatile uint64_t attribute_used __attribute__((aligned(8))) b5Dither;
+static volatile uint64_t attribute_used __attribute__((aligned(8))) g5Dither;
+static volatile uint64_t attribute_used __attribute__((aligned(8))) g6Dither;
+static volatile uint64_t attribute_used __attribute__((aligned(8))) r5Dither;
 
-uint64_t __attribute__((aligned(8))) dither4[2]={
+static uint64_t __attribute__((aligned(8))) dither4[2]={
        0x0103010301030103LL,
        0x0200020002000200LL,};
 
-uint64_t __attribute__((aligned(8))) dither8[2]={
+static uint64_t __attribute__((aligned(8))) dither8[2]={
        0x0602060206020602LL,
        0x0004000400040004LL,};
 
@@ -198,7 +197,7 @@ uint64_t __attribute__((aligned(8))) dither8[2]={
 #define RENAME(a) a ## _MMX2
 #include "yuv2rgb_template.c"
 
-#endif /* defined(ARCH_X86) || defined(ARCH_X86_64) */
+#endif /* defined(ARCH_X86) */
 
 const int32_t Inverse_Table_6_9[8][4] = {
     {117504, 138453, 13954, 34903}, /* no sequence_display_extension */
@@ -214,9 +213,9 @@ const int32_t Inverse_Table_6_9[8][4] = {
 #define RGB(i)                                 \
        U = pu[i];                              \
        V = pv[i];                              \
-       r = c->table_rV[V];                     \
-       g = c->table_gU[U] + c->table_gV[V];            \
-       b = c->table_bU[U];
+       r = (void *)c->table_rV[V];                     \
+       g = (void *)(c->table_gU[U] + c->table_gV[V]);          \
+       b = (void *)c->table_bU[U];
 
 #define DST1(i)                                        \
        Y = py_1[2*i];                          \
@@ -259,21 +258,23 @@ static int func_name(SwsContext *c, uint8_t* src[], int srcStride[], int srcSlic
              int srcSliceH, uint8_t* dst[], int dstStride[]){\
     int y;\
 \
-    if(c->srcFormat == IMGFMT_422P){\
+    if(c->srcFormat == PIX_FMT_YUV422P){\
        srcStride[1] *= 2;\
        srcStride[2] *= 2;\
     }\
     for(y=0; y<srcSliceH; y+=2){\
        dst_type *dst_1= (dst_type*)(dst[0] + (y+srcSliceY  )*dstStride[0]);\
        dst_type *dst_2= (dst_type*)(dst[0] + (y+srcSliceY+1)*dstStride[0]);\
-       dst_type *r, *g, *b;\
+       dst_type attribute_unused *r, *b;\
+       dst_type *g;\
        uint8_t *py_1= src[0] + y*srcStride[0];\
        uint8_t *py_2= py_1 + srcStride[0];\
        uint8_t *pu= src[1] + (y>>1)*srcStride[1];\
        uint8_t *pv= src[2] + (y>>1)*srcStride[2];\
        unsigned int h_size= c->dstW>>3;\
        while (h_size--) {\
-           int U, V, Y;\
+           int attribute_unused U, V;\
+           int Y;\
 
 #define EPILOG(dst_delta)\
            pu += 4;\
@@ -578,21 +579,21 @@ EPILOG(1)
 
 SwsFunc yuv2rgb_get_func_ptr (SwsContext *c)
 {
-#if defined(ARCH_X86) || defined(ARCH_X86_64)
+#if defined(HAVE_MMX2) || defined(HAVE_MMX)
     if(c->flags & SWS_CPU_CAPS_MMX2){
        switch(c->dstFormat){
-       case IMGFMT_BGR32: return yuv420_rgb32_MMX2;
-       case IMGFMT_BGR24: return yuv420_rgb24_MMX2;
-       case IMGFMT_BGR16: return yuv420_rgb16_MMX2;
-       case IMGFMT_BGR15: return yuv420_rgb15_MMX2;
+       case PIX_FMT_RGB32: return yuv420_rgb32_MMX2;
+       case PIX_FMT_BGR24: return yuv420_rgb24_MMX2;
+       case PIX_FMT_BGR565: return yuv420_rgb16_MMX2;
+       case PIX_FMT_BGR555: return yuv420_rgb15_MMX2;
        }
     }
     if(c->flags & SWS_CPU_CAPS_MMX){
        switch(c->dstFormat){
-       case IMGFMT_BGR32: return yuv420_rgb32_MMX;
-       case IMGFMT_BGR24: return yuv420_rgb24_MMX;
-       case IMGFMT_BGR16: return yuv420_rgb16_MMX;
-       case IMGFMT_BGR15: return yuv420_rgb15_MMX;
+       case PIX_FMT_RGB32: return yuv420_rgb32_MMX;
+       case PIX_FMT_BGR24: return yuv420_rgb24_MMX;
+       case PIX_FMT_BGR565: return yuv420_rgb16_MMX;
+       case PIX_FMT_BGR555: return yuv420_rgb15_MMX;
        }
     }
 #endif
@@ -610,25 +611,24 @@ SwsFunc yuv2rgb_get_func_ptr (SwsContext *c)
     }
 #endif
 
-    MSG_WARN("No accelerated colorspace conversion found\n");
+    av_log(c, AV_LOG_WARNING, "No accelerated colorspace conversion found\n");
 
     switch(c->dstFormat){
-    case IMGFMT_RGB32:
-    case IMGFMT_BGR32: return yuv2rgb_c_32;
-    case IMGFMT_RGB24: return yuv2rgb_c_24_rgb;
-    case IMGFMT_BGR24: return yuv2rgb_c_24_bgr;
-    case IMGFMT_RGB16:
-    case IMGFMT_BGR16:
-    case IMGFMT_RGB15:
-    case IMGFMT_BGR15: return yuv2rgb_c_16;
-    case IMGFMT_RGB8:
-    case IMGFMT_BGR8:  return yuv2rgb_c_8_ordered_dither;
-    case IMGFMT_RGB4:
-    case IMGFMT_BGR4:  return yuv2rgb_c_4_ordered_dither;
-    case IMGFMT_RG4B:
-    case IMGFMT_BG4B:  return yuv2rgb_c_4b_ordered_dither;
-    case IMGFMT_RGB1:
-    case IMGFMT_BGR1:  return yuv2rgb_c_1_ordered_dither;
+    case PIX_FMT_BGR32:
+    case PIX_FMT_RGB32: return yuv2rgb_c_32;
+    case PIX_FMT_RGB24: return yuv2rgb_c_24_rgb;
+    case PIX_FMT_BGR24: return yuv2rgb_c_24_bgr;
+    case PIX_FMT_RGB565:
+    case PIX_FMT_BGR565:
+    case PIX_FMT_RGB555:
+    case PIX_FMT_BGR555: return yuv2rgb_c_16;
+    case PIX_FMT_RGB8:
+    case PIX_FMT_BGR8:  return yuv2rgb_c_8_ordered_dither;
+    case PIX_FMT_RGB4:
+    case PIX_FMT_BGR4:  return yuv2rgb_c_4_ordered_dither;
+    case PIX_FMT_RGB4_BYTE:
+    case PIX_FMT_BGR4_BYTE:  return yuv2rgb_c_4b_ordered_dither;
+    case PIX_FMT_MONOBLACK:  return yuv2rgb_c_1_ordered_dither;
     default:
        assert(0);
     }
@@ -645,8 +645,8 @@ static int div_round (int dividend, int divisor)
 
 int yuv2rgb_c_init_tables (SwsContext *c, const int inv_table[4], int fullRange, int brightness, int contrast, int saturation)
 {  
-    const int isRgb = IMGFMT_IS_BGR(c->dstFormat);
-    const int bpp = isRgb?IMGFMT_RGB_DEPTH(c->dstFormat):IMGFMT_BGR_DEPTH(c->dstFormat);
+    const int isRgb = isBGR(c->dstFormat);
+    const int bpp = fmt_depth(c->dstFormat);
     int i;
     uint8_t table_Y[1024];
     uint32_t *table_32 = 0;
@@ -670,6 +670,11 @@ int yuv2rgb_c_init_tables (SwsContext *c, const int inv_table[4], int fullRange,
     if(!fullRange){
        cy= (cy*255) / 219;
        oy= 16<<16;
+    }else{
+        crv= (crv*224) / 255;
+        cbu= (cbu*224) / 255;
+        cgu= (cgu*224) / 255;
+        cgv= (cgv*224) / 255;
     }
        
     cy = (cy *contrast             )>>16;
@@ -828,16 +833,16 @@ int yuv2rgb_c_init_tables (SwsContext *c, const int inv_table[4], int fullRange,
 
     default:
        table_start= NULL;
-       MSG_ERR("%ibpp not supported by yuv2rgb\n", bpp);
+       av_log(c, AV_LOG_ERROR, "%ibpp not supported by yuv2rgb\n", bpp);
        //free mem?
        return -1;
     }
 
     for (i = 0; i < 256; i++) {
-       c->table_rV[i] = table_r + entry_size * div_round (crv * (i-128), 76309);
-       c->table_gU[i] = table_g + entry_size * div_round (cgu * (i-128), 76309);
+       c->table_rV[i] = (uint8_t *)table_r + entry_size * div_round (crv * (i-128), 76309);
+       c->table_gU[i] = (uint8_t *)table_g + entry_size * div_round (cgu * (i-128), 76309);
        c->table_gV[i] = entry_size * div_round (cgv * (i-128), 76309);
-       c->table_bU[i] = table_b + entry_size * div_round (cbu * (i-128), 76309);
+       c->table_bU[i] = (uint8_t *)table_b + entry_size * div_round (cbu * (i-128), 76309);
     }
 
     av_free(c->yuvTable);