whitespace cosmetics: Remove all trailing whitespace.
[mplayer.git] / DOCS / tech / swscaler_methods.txt
1
2 artifact types:
3 ---------------------------------------------------------------------
4 ringing
5         wave or noise like patterns around sharp edges
6         bad: sinc, lanczos (with high filter length)
7         acceptable: lanczos (with low filter length), cubic, spline
8         ok: area, (fast)blinear, gauss, point
9
10 blur
11         loss of detail / high frequency
12         bad: gauss with high variance
13         acceptable: (fast)bilinear, area
14         ok: others
15
16 aliasing (only downscale)
17         straight lines look like staircases
18         areas of high detail look worse
19         regular patterns turn into a funny looking mess (moire patterns)
20         bad: fast bilinear, point, gauss with low variance
21         acceptable: area
22         ok: others
23
24 blocky (upscale only)
25         looks like the image is made of rectangular blocks like a mosaic
26         bad: point
27         ok: others
28
29 recommendations: (based upon my personal opinion many ppl might disagree ...)
30 ---------------------------------------------------------------------
31
32 the recommended scalers for upscaling:
33 fast_bilinear, point if speed is important
34 cubic, spline, lanczos if quality is important
35
36 the recommended scalers for downscaling:
37 fast_bilinear, point if speed is important
38 gauss, bilinear if quality is important
39 cubic, spline, lanczos if a sharper picture is important
40
41 note: when encoding at a limited amount of bits (not constant quantizer)
42 then a slightly blurred input might look better after decoding than a slightly
43 sharpened one, especially for lower bitrates
44
45 sws numbers / names / artifact types
46 -------------------------------------------------------------------------
47 r ringing
48 b blurry
49 a aliasing (downscale only)
50 m mosaic (blocky) (upscale only)
51
52 -sws 0  fast bilinear                    bA
53 -sws 1  bilinear                         b
54 -sws 2  bicubic high sharpness          r
55                 low sharpness            b
56 -sws 3  experimental                    ????
57 -sws 4  nearest neighbour                 AM
58 -sws 5  area                             ba
59 -sws 6  luma bicubic / chroma bilinear  r
60 -sws 7  gauss   low sharpness            B
61                 high sharpness            AM
62 -sws 8  sinc                            R
63 -sws 9  lanczos long filter             R
64                 short filter             b
65 -sws 10 bicubic spline                  r
66
67 Notes:
68         area upscale is identical to bilinear
69