move dequantization into its own inline function
authorStefan Gehrer <stefan.gehrer@gmx.de>
Sat, 7 Jul 2007 07:14:58 +0000 (07:14 +0000)
committerStefan Gehrer <stefan.gehrer@gmx.de>
Sat, 7 Jul 2007 07:14:58 +0000 (07:14 +0000)
Originally committed as revision 9518 to svn://svn.ffmpeg.org/ffmpeg/trunk

libavcodec/cavs.c
libavcodec/cavs.h

index 9a1f8dd6c6f89c4cc9603f16371d865179b19947..bd5620f09eea920bc42a6a6928da3e1a2e11e5df 100644 (file)
@@ -499,14 +499,9 @@ static inline int get_ue_code(GetBitContext *gb, int order) {
 static int decode_residual_block(AVSContext *h, GetBitContext *gb,
                                  const dec_2dvlc_t *r, int esc_golomb_order,
                                  int qp, uint8_t *dst, int stride) {
-    int i,pos = -1;
-    int level_code, esc_code, level, run, mask;
-    int level_buf[64];
-    int run_buf[64];
-    int dqm = dequant_mul[qp];
-    int dqs = dequant_shift[qp];
-    int dqa = 1 << (dqs - 1);
-    const uint8_t *scantab = h->scantable.permutated;
+    int i, level_code, esc_code, level, run, mask;
+    DCTELEM level_buf[64];
+    uint8_t run_buf[64];
     DCTELEM *block = h->block;
 
     for(i=0;i<65;i++) {
@@ -529,17 +524,9 @@ static int decode_residual_block(AVSContext *h, GetBitContext *gb,
         level_buf[i] = level;
         run_buf[i] = run;
     }
-    /* inverse scan and dequantization */
-    while(--i >= 0){
-        pos += run_buf[i];
-        if(pos > 63) {
-            av_log(h->s.avctx, AV_LOG_ERROR,
-                   "position out of block bounds at pic %d MB(%d,%d)\n",
-                   h->picture.poc, h->mbx, h->mby);
-            return -1;
-        }
-        block[scantab[pos]] = (level_buf[i]*dqm + dqa) >> dqs;
-    }
+    if(dequant(h,level_buf, run_buf, block, dequant_mul[qp],
+               dequant_shift[qp], i))
+        return -1;
     h->s.dsp.cavs_idct8_add(dst,block,stride);
     return 0;
 }
index b98ffd7799b10e25fbfadc680583f4886dc336d1..71a0aba71f08f0c739e1a23b02c8277941b52a5e 100644 (file)
@@ -441,4 +441,24 @@ static inline int next_mb(AVSContext *h) {
     return 1;
 }
 
+static inline int dequant(AVSContext *h, DCTELEM *level_buf, uint8_t *run_buf,
+                          DCTELEM *dst, int mul, int shift, int coeff_num) {
+    int round = 1 << (shift - 1);
+    int pos = -1;
+    const uint8_t *scantab = h->scantable.permutated;
+
+    /* inverse scan and dequantization */
+    while(--coeff_num >= 0){
+        pos += run_buf[coeff_num];
+        if(pos > 63) {
+            av_log(h->s.avctx, AV_LOG_ERROR,
+                "position out of block bounds at pic %d MB(%d,%d)\n",
+                h->picture.poc, h->mbx, h->mby);
+            return -1;
+        }
+        dst[scantab[pos]] = (level_buf[coeff_num]*mul + round) >> shift;
+    }
+    return 0;
+}
+
 #endif /* CAVS_H */