1bpp support
[ffmpeg.git] / postproc / yuv2rgb.c
index c3614f9ed647dd5f359a8d48e33f2ae450d14b82..85c75705d93fb017b381568a9e84fe8037bfe464 100644 (file)
@@ -26,6 +26,7 @@
  *  the Free Software Foundation, 675 Mass Ave, Cambridge, MA 02139, USA.
  *
  * MMX/MMX2 Template stuff from Michael Niedermayer (michaelni@gmx.at) (needed for fast movntq support)
+ * 1,4,8bpp support by Michael Niedermayer (michaelni@gmx.at)
  */
 
 #include <stdio.h>
@@ -36,6 +37,8 @@
 //#include "video_out.h"
 #include "rgb2rgb.h"
 #include "../cpudetect.h"
+#include "../mangle.h"
+#include "../mp_msg.h"
 
 #ifdef HAVE_MLIB
 #include "yuv2rgb_mlib.c"
@@ -84,6 +87,39 @@ uint64_t __attribute__((aligned(8))) dither8[2]={
        0x0602060206020602LL,
        0x0004000400040004LL,};
 
+uint8_t  __attribute__((aligned(8))) dither_8x8_32[8][8]={
+{ 17,   9,  23,  15,  16,   8,  22,  14, },
+{  5,  29,   3,  27,   4,  28,   2,  26, },
+{ 21,  13,  19,  11,  20,  12,  18,  10, },
+{  0,  24,   6,  30,   1,  25,   7,  31, },
+{ 16,   8,  22,  14,  17,   9,  23,  15, },
+{  4,  28,   2,  26,   5,  29,   3,  27, },
+{ 20,  12,  18,  10,  21,  13,  19,  11, },
+{  1,  25,   7,  31,   0,  24,   6,  30, },
+};
+
+uint8_t  __attribute__((aligned(8))) dither_8x8_64[8][8]={
+{  0,  48,  12,  60,   3,  51,  15,  63, },
+{ 32,  16,  44,  28,  35,  19,  47,  31, },
+{  8,  56,   4,  52,  11,  59,   7,  55, },
+{ 40,  24,  36,  20,  43,  27,  39,  23, },
+{  2,  50,  14,  62,   1,  49,  13,  61, },
+{ 34,  18,  46,  30,  33,  17,  45,  29, },
+{ 10,  58,   6,  54,   9,  57,   5,  53, },
+{ 42,  26,  38,  22,  41,  25,  37,  21, },
+};
+
+uint8_t  __attribute__((aligned(8))) dither_8x8_128[8][8]={
+{ 68,  36,  92,  60,  66,  34,  90,  58, },
+{ 20, 116,  12, 108,  18, 114,  10, 106, },
+{ 84,  52,  76,  44,  82,  50,  74,  42, },
+{  0,  96,  24, 120,   6, 102,  30, 126, },
+{ 64,  32,  88,  56,  70,  38,  94,  62, },
+{ 16, 112,   8, 104,  22, 118,  14, 110, },
+{ 80,  48,  72,  40,  86,  54,  78,  46, },
+{  4, 100,  28, 124,   2,  98,  26, 122, },
+};
+
 #undef HAVE_MMX
 #undef ARCH_X86
 
@@ -127,7 +163,7 @@ yuv2rgb_fun yuv2rgb;
 
 static void (* yuv2rgb_c_internal) (uint8_t *, uint8_t *,
                                    uint8_t *, uint8_t *,
-                                   void *, void *, int);
+                                   void *, void *, int, int);
 
 static void yuv2rgb_c (void * dst, uint8_t * py,
                       uint8_t * pu, uint8_t * pv,
@@ -135,10 +171,10 @@ static void yuv2rgb_c (void * dst, uint8_t * py,
                       int rgb_stride, int y_stride, int uv_stride)
 {
     v_size >>= 1;
-
+    
     while (v_size--) {
        yuv2rgb_c_internal (py, py + y_stride, pu, pv, dst, dst + rgb_stride,
-                           h_size);
+                           h_size, v_size<<1);
 
        py += 2 * y_stride;
        pu += uv_stride;
@@ -156,9 +192,9 @@ void yuv2rgb_init (int bpp, int mode)
        if (yuv2rgb == NULL /*&& (config.flags & VO_MMX_ENABLE)*/) {
                yuv2rgb = yuv2rgb_init_MMX2 (bpp, mode);
                if (yuv2rgb != NULL)
-                       printf ("Using MMX2 for colorspace transform\n");
+                       mp_msg(MSGT_SWS,MSGL_INFO,"Using MMX2 for colorspace transform\n");
                else
-                       printf ("Cannot init MMX2 colorspace transform\n");
+                       mp_msg(MSGT_SWS,MSGL_WARN,"Cannot init MMX2 colorspace transform\n");
        }
     }
     else if(gCpuCaps.hasMMX)
@@ -166,9 +202,9 @@ void yuv2rgb_init (int bpp, int mode)
        if (yuv2rgb == NULL /*&& (config.flags & VO_MMX_ENABLE)*/) {
                yuv2rgb = yuv2rgb_init_MMX (bpp, mode);
                if (yuv2rgb != NULL)
-                       printf ("Using MMX for colorspace transform\n");
+                       mp_msg(MSGT_SWS,MSGL_INFO,"Using MMX for colorspace transform\n");
                else
-                       printf ("Cannot init MMX colorspace transform\n");
+                       mp_msg(MSGT_SWS,MSGL_WARN,"Cannot init MMX colorspace transform\n");
        }
     }
 #endif
@@ -176,11 +212,11 @@ void yuv2rgb_init (int bpp, int mode)
     if (yuv2rgb == NULL /*&& (config.flags & VO_MLIB_ENABLE)*/) {
        yuv2rgb = yuv2rgb_init_mlib (bpp, mode);
        if (yuv2rgb != NULL)
-           printf ("Using mlib for colorspace transform\n");
+           mp_msg(MSGT_SWS,MSGL_INFO,"Using mlib for colorspace transform\n");
     }
 #endif
     if (yuv2rgb == NULL) {
-       printf ("No accelerated colorspace conversion found\n");
+       mp_msg(MSGT_SWS,MSGL_INFO,"No accelerated colorspace conversion found\n");
        yuv2rgb_c_init (bpp, mode);
        yuv2rgb = (yuv2rgb_fun)yuv2rgb_c;
     }
@@ -236,7 +272,7 @@ void * table_bU[256];
 
 static void yuv2rgb_c_32 (uint8_t * py_1, uint8_t * py_2,
                          uint8_t * pu, uint8_t * pv,
-                         void * _dst_1, void * _dst_2, int h_size)
+                         void * _dst_1, void * _dst_2, int h_size, int v_pos)
 {
     int U, V, Y;
     uint32_t * r, * g, * b;
@@ -275,7 +311,7 @@ static void yuv2rgb_c_32 (uint8_t * py_1, uint8_t * py_2,
 // This is very near from the yuv2rgb_c_32 code
 static void yuv2rgb_c_24_rgb (uint8_t * py_1, uint8_t * py_2,
                              uint8_t * pu, uint8_t * pv,
-                             void * _dst_1, void * _dst_2, int h_size)
+                             void * _dst_1, void * _dst_2, int h_size, int v_pos)
 {
     int U, V, Y;
     uint8_t * r, * g, * b;
@@ -314,7 +350,7 @@ static void yuv2rgb_c_24_rgb (uint8_t * py_1, uint8_t * py_2,
 // only trivial mods from yuv2rgb_c_24_rgb
 static void yuv2rgb_c_24_bgr (uint8_t * py_1, uint8_t * py_2,
                              uint8_t * pu, uint8_t * pv,
-                             void * _dst_1, void * _dst_2, int h_size)
+                             void * _dst_1, void * _dst_2, int h_size, int v_pos)
 {
     int U, V, Y;
     uint8_t * r, * g, * b;
@@ -354,7 +390,7 @@ static void yuv2rgb_c_24_bgr (uint8_t * py_1, uint8_t * py_2,
 // r, g, b, dst_1, dst_2
 static void yuv2rgb_c_16 (uint8_t * py_1, uint8_t * py_2,
                          uint8_t * pu, uint8_t * pv,
-                         void * _dst_1, void * _dst_2, int h_size)
+                         void * _dst_1, void * _dst_2, int h_size, int v_pos)
 {
     int U, V, Y;
     uint16_t * r, * g, * b;
@@ -390,6 +426,249 @@ static void yuv2rgb_c_16 (uint8_t * py_1, uint8_t * py_2,
     }
 }
 
+// This is exactly the same code as yuv2rgb_c_32 except for the types of
+// r, g, b, dst_1, dst_2
+static void yuv2rgb_c_8  (uint8_t * py_1, uint8_t * py_2,
+                         uint8_t * pu, uint8_t * pv,
+                         void * _dst_1, void * _dst_2, int h_size, int v_pos)
+{
+    int U, V, Y;
+    uint8_t * r, * g, * b;
+    uint8_t * dst_1, * dst_2;
+
+    h_size >>= 3;
+    dst_1 = _dst_1;
+    dst_2 = _dst_2;
+
+    while (h_size--) {
+       RGB(0);
+       DST1(0);
+       DST2(0);
+
+       RGB(1);
+       DST2(1);
+       DST1(1);
+
+       RGB(2);
+       DST1(2);
+       DST2(2);
+
+       RGB(3);
+       DST2(3);
+       DST1(3);
+
+       pu += 4;
+       pv += 4;
+       py_1 += 8;
+       py_2 += 8;
+       dst_1 += 8;
+       dst_2 += 8;
+    }
+}
+
+// r, g, b, dst_1, dst_2
+static void yuv2rgb_c_8_ordered_dither  (uint8_t * py_1, uint8_t * py_2,
+                         uint8_t * pu, uint8_t * pv,
+                         void * _dst_1, void * _dst_2, int h_size, int v_pos)
+{
+    int U, V, Y;
+    uint8_t * r, * g, * b;
+    uint8_t * dst_1, * dst_2;
+
+    h_size >>= 3;
+    dst_1 = _dst_1;
+    dst_2 = _dst_2;
+
+    while (h_size--) {
+       uint8_t *d32= dither_8x8_32[v_pos&7];
+       uint8_t *d64= dither_8x8_64[v_pos&7];
+#define DST1bpp8(i,o)                                  \
+       Y = py_1[2*i];                          \
+       dst_1[2*i] = r[Y+d32[0+o]] + g[Y+d32[0+o]] + b[Y+d64[0+o]];     \
+       Y = py_1[2*i+1];                        \
+       dst_1[2*i+1] = r[Y+d32[1+o]] + g[Y+d32[1+o]] + b[Y+d64[1+o]];
+
+#define DST2bpp8(i,o)                                  \
+       Y = py_2[2*i];                          \
+       dst_2[2*i] =  r[Y+d32[8+o]] + g[Y+d32[8+o]] + b[Y+d64[8+o]];    \
+       Y = py_2[2*i+1];                        \
+       dst_2[2*i+1] =  r[Y+d32[9+o]] + g[Y+d32[9+o]] + b[Y+d64[9+o]];
+
+
+       RGB(0);
+       DST1bpp8(0,0);
+       DST2bpp8(0,0);
+
+       RGB(1);
+       DST2bpp8(1,2);
+       DST1bpp8(1,2);
+
+       RGB(2);
+       DST1bpp8(2,4);
+       DST2bpp8(2,4);
+
+       RGB(3);
+       DST2bpp8(3,6);
+       DST1bpp8(3,6);
+
+       pu += 4;
+       pv += 4;
+       py_1 += 8;
+       py_2 += 8;
+       dst_1 += 8;
+       dst_2 += 8;
+    }
+}
+
+
+// This is exactly the same code as yuv2rgb_c_32 except for the types of
+// r, g, b, dst_1, dst_2
+static void yuv2rgb_c_4  (uint8_t * py_1, uint8_t * py_2,
+                         uint8_t * pu, uint8_t * pv,
+                         void * _dst_1, void * _dst_2, int h_size, int v_pos)
+{
+    int U, V, Y, out;
+    uint8_t * r, * g, * b;
+    uint8_t * dst_1, * dst_2;
+
+    h_size >>= 3;
+    dst_1 = _dst_1;
+    dst_2 = _dst_2;
+
+    while (h_size--) {
+       RGB(0);
+       DST1(0);
+       DST2(0);
+
+       RGB(1);
+       DST2(1);
+       DST1(1);
+
+       RGB(2);
+       DST1(2);
+       DST2(2);
+
+       RGB(3);
+       DST2(3);
+       DST1(3);
+
+       pu += 4;
+       pv += 4;
+       py_1 += 8;
+       py_2 += 8;
+       dst_1 += 8;
+       dst_2 += 8;
+    }
+}
+
+static void yuv2rgb_c_4_ordered_dither  (uint8_t * py_1, uint8_t * py_2,
+                         uint8_t * pu, uint8_t * pv,
+                         void * _dst_1, void * _dst_2, int h_size, int v_pos)
+{
+    int U, V, Y;
+    uint8_t * r, * g, * b;
+    uint8_t * dst_1, * dst_2;
+
+    h_size >>= 3;
+    dst_1 = _dst_1;
+    dst_2 = _dst_2;
+
+    while (h_size--) {
+       uint8_t *d64= dither_8x8_64 [v_pos&7];
+       uint8_t *d128=dither_8x8_128[v_pos&7];
+
+#define DST1bpp4(i,o)                                  \
+       Y = py_1[2*i];                          \
+       dst_1[2*i] = r[Y+d128[0+o]] + g[Y+d64[0+o]] + b[Y+d128[0+o]];   \
+       Y = py_1[2*i+1];                        \
+       dst_1[2*i+1] = r[Y+d128[1+o]] + g[Y+d64[1+o]] + b[Y+d128[1+o]];
+
+#define DST2bpp4(i,o)                                  \
+       Y = py_2[2*i];                          \
+       dst_2[2*i] =  r[Y+d128[8+o]] + g[Y+d64[8+o]] + b[Y+d128[8+o]];  \
+       Y = py_2[2*i+1];                        \
+       dst_2[2*i+1] =  r[Y+d128[9+o]] + g[Y+d64[9+o]] + b[Y+d128[9+o]];
+
+
+       RGB(0);
+       DST1bpp4(0,0);
+       DST2bpp4(0,0);
+
+       RGB(1);
+       DST2bpp4(1,2);
+       DST1bpp4(1,2);
+
+       RGB(2);
+       DST1bpp4(2,4);
+       DST2bpp4(2,4);
+
+       RGB(3);
+       DST2bpp4(3,6);
+       DST1bpp4(3,6);
+
+       pu += 4;
+       pv += 4;
+       py_1 += 8;
+       py_2 += 8;
+       dst_1 += 8;
+       dst_2 += 8;
+    }
+}
+
+static void yuv2rgb_c_1_ordered_dither  (uint8_t * py_1, uint8_t * py_2,
+                         uint8_t * pu, uint8_t * pv,
+                         void * _dst_1, void * _dst_2, int h_size, int v_pos)
+{
+    int U, V, Y;
+    uint8_t * r, * g, * b;
+    uint8_t * dst_1, * dst_2;
+
+    h_size >>= 3;
+    dst_1 = _dst_1;
+    dst_2 = _dst_2;
+    g= table_gU[128] + table_gV[128];
+
+    while (h_size--) {
+       uint8_t *d128=dither_8x8_128[v_pos&7];
+       char out_1=0, out_2=0;
+
+#define DST1bpp1(i,o)                                  \
+       Y = py_1[2*i];                          \
+       out_1+= out_1 + g[Y+d128[0+o]]; \
+       Y = py_1[2*i+1];                        \
+       out_1+= out_1 + g[Y+d128[1+o]];
+
+#define DST2bpp1(i,o)                                  \
+       Y = py_2[2*i];                          \
+       out_2+= out_2 + g[Y+d128[8+o]]; \
+       Y = py_2[2*i+1];                        \
+       out_2+= out_2 + g[Y+d128[9+o]];
+
+       DST1bpp1(0,0);
+       DST2bpp1(0,0);
+
+       DST2bpp1(1,2);
+       DST1bpp1(1,2);
+
+       DST1bpp1(2,4);
+       DST2bpp1(2,4);
+
+       DST2bpp1(3,6);
+       DST1bpp1(3,6);
+       
+       dst_1[0]= out_1;
+       dst_2[0]= out_2;
+
+       pu += 4;
+       pv += 4;
+       py_1 += 8;
+       py_2 += 8;
+       dst_1 ++;
+       dst_2 ++;
+    }
+}
+
+
 static int div_round (int dividend, int divisor)
 {
     if (dividend > 0)
@@ -405,7 +684,10 @@ static void yuv2rgb_c_init (int bpp, int mode)
     uint32_t *table_32 = 0;
     uint16_t *table_16 = 0;
     uint8_t *table_8 = 0;
-    uint32_t entry_size = 0;
+    uint8_t *table_332 = 0;
+    uint8_t *table_121 = 0;
+    uint8_t *table_1 = 0;
+    int entry_size = 0;
     void *table_r = 0, *table_g = 0, *table_b = 0;
 
     int crv = Inverse_Table_6_9[matrix_coefficients][0];
@@ -487,8 +769,99 @@ static void yuv2rgb_c_init (int bpp, int mode)
        }
        break;
 
+    case 8:
+       yuv2rgb_c_internal = yuv2rgb_c_8_ordered_dither; //yuv2rgb_c_8;
+
+       table_332 = malloc ((197 + 2*682 + 256 + 132) * sizeof (uint8_t));
+
+       entry_size = sizeof (uint8_t);
+       table_r = table_332 + 197;
+       table_b = table_332 + 197 + 685;
+       table_g = table_332 + 197 + 2*682;
+
+       for (i = -197; i < 256+197; i++) {
+           int j = (table_Y[i+384] - 16) >> 5;
+           if(j<0) j=0;
+
+           if (mode == MODE_RGB)
+               j <<= 5;
+
+           ((uint8_t *)table_r)[i] = j;
+       }
+       for (i = -132; i < 256+132; i++) {
+           int j = (table_Y[i+384] - 16) >> 5;
+           if(j<0) j=0;
+
+           if (mode == MODE_BGR)
+               j <<= 1;
+
+           ((uint8_t *)table_g)[i] = j << 2;
+       }
+       for (i = -232; i < 256+232; i++) {
+           int j = (table_Y[i+384] - 32) >> 6;
+           if(j<0) j=0;
+
+           if (mode == MODE_BGR)
+               j <<= 6;
+
+           ((uint8_t *)table_b)[i] = j;
+       }
+       break;
+    case 4:
+       yuv2rgb_c_internal = yuv2rgb_c_4_ordered_dither; //yuv2rgb_c_4;
+
+       table_121 = malloc ((197 + 2*682 + 256 + 132) * sizeof (uint8_t));
+
+       entry_size = sizeof (uint8_t);
+       table_r = table_121 + 197;
+       table_b = table_121 + 197 + 685;
+       table_g = table_121 + 197 + 2*682;
+
+       for (i = -197; i < 256+197; i++) {
+           int j = (table_Y[i+384] - 64) >> 7;
+           if(j<0) j=0;
+
+           if (mode == MODE_RGB)
+               j <<= 3;
+
+           ((uint8_t *)table_r)[i] = j;
+       }
+       for (i = -132; i < 256+132; i++) {
+           int j = (table_Y[i+384] - 32) >> 6;
+           if(j<0) j=0;
+
+           ((uint8_t *)table_g)[i] = j << 1;
+       }
+       for (i = -232; i < 256+232; i++) {
+           int j =(table_Y[i+384] - 64) >> 7;
+           if(j<0) j=0;
+
+           if (mode == MODE_BGR)
+               j <<= 3;
+
+           ((uint8_t *)table_b)[i] = j;
+       }
+       break;
+
+    case 1:
+       yuv2rgb_c_internal = yuv2rgb_c_1_ordered_dither;
+
+       table_1 = malloc ((132*2 + 256) * sizeof (uint8_t));
+
+       entry_size = sizeof (uint8_t);
+       table_g = table_1 + 132;
+       table_r = table_b = NULL;
+
+       for (i = -132; i < 256+132; i++) {
+           int j = (table_Y[i+384] - 64) >> 7;
+           if(j<0) j=0;
+
+           ((uint8_t *)table_g)[i] = j;
+       }
+       break;
+
     default:
-       printf ("%ibpp not supported by yuv2rgb\n", bpp);
+       mp_msg(MSGT_SWS,MSGL_ERR,"%ibpp not supported by yuv2rgb\n", bpp);
        //exit (1);
     }