avfilter/palettegen: use AV_QSORT()
authorClément Bœsch <clement@stupeflix.com>
Wed, 25 Feb 2015 15:06:34 +0000 (16:06 +0100)
committerClément Bœsch <clement@stupeflix.com>
Thu, 26 Feb 2015 13:20:02 +0000 (14:20 +0100)
commit321de034928031fe71b6495596dd1fde4ec79f23
treed3bc6ed25a56be770b00013d1b350d2c2e5dfd16
parent30f4e9d3d90b66aab06cb0559b7aca5fa290d684
avfilter/palettegen: use AV_QSORT()

This makes the sorting of the colors along an axis (r, g or b)
predictible, and thus testable under FATE. The performance is not really
an issue here since the function is called only once at the end and will
need to sort very small number of entries, so an alternative would be to
make the sorting functions (see DECLARE_CMP_FUNC()) fallback on another
axis in case of equality. This approach was actually simpler.

I don't know if there is any advantage in using a multidimensional sort,
but it will affect the final palette one way or another.
libavfilter/vf_palettegen.c