vc2enc: properly promote operations to 64 bits
authorRostislav Pehlivanov <atomnuker@gmail.com>
Mon, 12 Mar 2018 23:31:22 +0000 (23:31 +0000)
committerRostislav Pehlivanov <atomnuker@gmail.com>
Tue, 13 Mar 2018 01:43:30 +0000 (01:43 +0000)
commit688060fbb7233d9212a92ce171e3b94784f95ca1
tree3b6f4d29efb4809698a4d632d601c047b9cfd9ea
parent040b28aeccce8bc3c2e109f8e0ea7f0ed4d3af08
vc2enc: properly promote operations to 64 bits

On Windows machines, the UL suffix still means 32 bits.
The only parts that need 64 bits are (1ULL << (m + 32)) and
(t*qf + qf). Hence, use the proper ULL suffix for the former
and just increase the type of the qf constant for the latter.
No overflows can happen as long as these are done in 64 bits and
the quantization table doesn't change.

Signed-off-by: Rostislav Pehlivanov <atomnuker@gmail.com>
libavcodec/vc2enc.c