Mask all unused bits for packed pixel format instead of green and alpha mask only.
authorKostya Shishkov <kostya.shishkov@gmail.com>
Mon, 9 Mar 2009 17:25:43 +0000 (17:25 +0000)
committerKostya Shishkov <kostya.shishkov@gmail.com>
Mon, 9 Mar 2009 17:25:43 +0000 (17:25 +0000)
commitbcff32d1b4eb583b8be96295fe63c575cef441f2
treef103ba0952b255a6d5bebb7f6539761892d0ebc7
parent2500d8bea69970bee3805f0db88114173fa49298
Mask all unused bits for packed pixel format instead of green and alpha mask only.
That fixes the case when converting 15-bit RGB/BGR to YUV and high bit is set
for input value(s).

Originally committed as revision 28916 to svn://svn.mplayerhq.hu/mplayer/trunk/libswscale
libswscale/swscale_template.c