Merge commit '0b699920f3c0b2e30969b38ce59226653f9d80ec'
authorHendrik Leppkes <h.leppkes@gmail.com>
Tue, 10 Nov 2015 16:43:17 +0000 (17:43 +0100)
committerHendrik Leppkes <h.leppkes@gmail.com>
Tue, 10 Nov 2015 16:43:17 +0000 (17:43 +0100)
* commit '0b699920f3c0b2e30969b38ce59226653f9d80ec':
  lagarith: Correctly compute hash_shift

Merged-by: Hendrik Leppkes <h.leppkes@gmail.com>
1  2 
libavcodec/lagarithrac.c

@@@ -45,9 -45,9 +45,9 @@@ void ff_lag_rac_init(lag_rac *l, GetBit
  
      l->range        = 0x80;
      l->low          = *l->bytestream >> 1;
-     l->hash_shift   = FFMAX((int)l->scale - 10, 0);
 -    l->hash_shift   = FFMAX(l->scale, 8) - 8;
++    l->hash_shift   = FFMAX(l->scale, 10) - 10;
  
 -    for (i = j = 0; i < 256; i++) {
 +    for (i = j = 0; i < 1024; i++) {
          unsigned r = i << l->hash_shift;
          while (l->prob[j + 1] <= r)
              j++;