vp9: Return the correct size when decoding a superframe

According to avcodec.h, avcodec_decode_video2 should return the number of
bytes used if a frame was decoded.

The current implementation returns size - used size of all the subframes.
This fixes the VLC's bug https://trac.videolan.org/vlc/ticket/16836.

The superframe is always fully consumed.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

build: Only enable symbol reduction if the compiler does proper DCE

With compilers that do not support proper dead code elimination, like
Sun C 5.12, linking fails due to missing references to unavailable,
but also unused, symbols.

Bug-Id: 895

build: Simplify postprocessing of linker version script files

Generate the files in a single postprocessing step w/o intermediate files.

build: Change structure of the linker version script templates

Split version files into one line per symbol/directive to allow compatibility
with the Solaris linker without preprocessing and eliminate $ from version file
templates to simplify the postprocessing shell command.

build: Print a message when generating version scripts

asm: FF_-prefix internal macros used in inline assembly

These warnings conflict with system macros on Solaris, producing
truckloads of warnings about macro redefinition.

Drop unnecessary libavutil/x86/asm.h #includes

ac3: Check the array bound before dereferencing

CC: libav-stable@libav.org
Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

vaapi_h264: Add trivial support for low-power encoding

Experimental; requires Skylake and VAAPI 0.39.1 (not yet released).
Also increases the allowed range of the quality option - in low-power
mode, the Intel driver supports levels 1-8 (and 0 meaning default).

vaapi_h264: Fix frame_num after non-reference frames

Non-reference frames (nal_ref_idc == 0) should be discardable, so
frame_num does not advance after them.  Before this change, a stream
containing unreferenced B-frames would be rejected by the reference
decoder.

vaapi_encode: Check config attributes before creating config

This prevents attempts to use unsupported modes, such as low-power
H.264 mode on non-Skylake targets.  Also fixes a crash on invalid
configuration, when trying to destroy an invalid VA config/context.

build: Ignore generated mapfile and remove it on distclean

FATE: drop the audio stream from the dxtory test

This is a video test and there are no audio packets in the sample
anyway.

avconv: fix parsing bitstream filters

The current code modifies the user-supplied string, which is shared for
the whole output file. So a bitstream filter specification applied to
multiple streams would not work correctly.

avconv: fix a check for av_bsf_get_by_name() return value

avconv_vaapi: use the hwcontext device creation API

avconv_dxva2: use the hwcontext device creation API

avconv_vdpau: use the hwcontext device creation API

hwcontext_vaapi: implement device creation

hwcontext_dxva2: implement device creation

hwcontext_cuda: implement device creation

hwcontext_vdpau: implement device creation

hwcontext: add a function for opening devices

lavc: handle hw_frames_ctx where necessary

avcodec_copy_context() didn't handle hw_frames_ctx references correctly
which could cause crashes.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

golomb: Give svq3_get_se_golomb()/svq3_get_ue_golomb() better names

fate: More fine-grained dependencies for demuxer tests

fate: More fine-grained dependencies for voice codec tests

rtsp: Use avcodec_descriptor_get instead of avcodec_find_decoder

This is only used for logging a human readable codec name for
debugging.

Signed-off-by: Martin Storsjö <martin@martin.st>

avcodec: Bump micro version after changing public JPEG 2000 defines

jpeg2000: Fix profile define values

Signed-off-by: Diego Biurrun <diego@biurrun.de>

avfiltergraph: check the query_formats() return value

lavc: document that avcodec_close() should not be used

We cannot deprecate it until the new parser API is in place, because of
the way libavformat works. But the majority of the users can already
simply replace it with avcodec_free_context(), which will simplify the
transition once it is finally deprecated.

lavc: deprecate avcodec_get_context_defaults3()

This function is supposed to "reset" a codec context to a clean state so
that it can be opened again. The only reason it exists is to allow using
AVStream.codec as a decoding context (after it was already
opened/used/closed by avformat_find_stream_info()). Since that behaviour
is now deprecated, there is no reason for this function to exist
anymore.

lavc: deprecate avcodec_copy_context()

Since AVCodecContext contains a lot of complex state, copying a codec
context is not a well-defined operation. The purpose for which it is
typically used (which is well-defined) is copying the stream parameters
from one codec context to another. That is now possible with through the
AVCodecParameters API. Therefore, there is no reason for
avcodec_copy_context() to exist.

lavf: update muxing doxy

Describe the new AVCodecParameters API.

mp3: Make the extrasize explicit

Initialize the bit buffer with the correct size (amount of bits that will
be read) instead of relying on the bitstream reader overreading the
correct values.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>
Signed-off-by: Diego Biurrun <diego@biurrun.de>

get_bits: Drop some TRACE-level debug code

It will not be provided by the new bit reader anyway.

dump: Drop unused variable

avconv: Use more precise deprecation ifdefs

This fixes compilation with the libavcodec version bumped to 58.

avconv: stop using AVStream.codec

It is now only used by the av_parser_change() call during streamcopy, so
allocate a special AVCodecContext instance for this case. This instance
should go away when the new parser API is finished.

Signed-off-by: Diego Biurrun <diego@biurrun.de>

nvenc: allow setting the number of slices

Based on a patch by Agatha Hu <ahu@nvidia.com>

nvenc: De-compensate aspect ratio compensation of DVD-like content.

For reasons we are not privy to, nvidia decided that the nvenc encoder
should apply aspect ratio compensation to 'DVD like' content, assuming that
the content is not BT.601 compliant, but needs to be BT.601 compliant. In
this context, that means that they make the following, questionable,
assumptions:

1) If the input dimensions are 720x480 or 720x576, assume the content has
an active area of 704x480 or 704x576.

2) Assume that whatever the input sample aspect ratio is, it does not account
for the difference between 'physical' and 'active' dimensions.

From these assumptions, they then conclude that they can 'help', by adjusting
the sample aspect ratio by a factor of 45/44. And indeed, if you wanted to
display only the 704 wide active area with the same aspect ratio as the full
720 wide image - this would be the correct adjustment factor, but what if you
don't? And more importantly, what if you're used to lavc not making this kind
of adjustment at encode time - because none of the other encoders do this!

And, what if you had already accounted for BT.601 and your input had the
correct attributes? Well, it's going to apply the compensation anyway!
So, if you take some content, and feed it through nvenc repeatedly, it
will keep scaling the aspect ratio every time, stretching your video out
more and more and more.

So, clearly, regardless of whether you want to apply bt.601 aspect ratio
adjustments or not, this is not the way to do it. With any other lavc
encoder, you would do it as part of defining your input parameters or do
the adjustment at playback time, and there's no reason by nvenc should
be any different.

This change adds some logic to undo the compensation that nvenc would
otherwise do.

nvidia engineers have told us that they will work to make this
compensation mechanism optional in a future release of the nvenc
SDK. At that point, we can adapt accordingly.

Signed-off-by: Philip Langdale <philipl@overt.org>
Reviewed-by: Timo Rothenpieler <timo@rothenpieler.org>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

nvenc: list the major contributors in the copyright header

configure: Don't require nonfree for nvenc

As the nvEncodeApi.h header is now MIT licensed, this can be dropped.
The loaded CUDA and NVENC libraries are part of the nvidia driver, and
thus count as system libraries.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nvenc: drop the hard dependency on CUDA

The code needs only a few definitions from cuda.h, so define them
directly when CUDA is not enabled. CUDA is still required for accepting
HW frames as input.

Based on the code by Timo Rothenpieler <timo@rothenpieler.org>.

nvenc: only support HW frames when CUDA is enabled

hwcontext_cuda.h includes cuda.h, so this will allow building nvenc
without depending on cuda.h

nvenc: write the VUI signal properties for HEVC

Bump the API version requirement to 6.

Based on a patch by Agatha Hu <ahu@nvidia.com>.

nvenc: only write the VUI signal type fields if they are set

Based on a patch by Agatha Hu <ahu@nvidia.com>.

nvenc: Generate bufferingPeriod/pictureTiming SEI

For some unknown reason enabling these causes proper CBR padding,
so as there are no known downsides just always enable them in CBR mode.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nvenc: Delay frame output to increase encoding speed

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nvenc: add support for lossless encoding

Based on a patch by Philip Langdale <philipl@overt.org>

nvenc: Generate AUD NAL units for better compatiblity

Signed-off-by: Anton Khirnov <anton@khirnov.net>

nvenc: fix the rc option definitions

Add release notes for 12.

mjpegdec: Properly fail on malloc failure

Signed-off-by: Derek Buitenhuis <derek.buitenhuis@gmail.com>
Signed-off-by: Anton Khirnov <anton@khirnov.net>

configure: move the hardware accel libs' entries in the configure output

Print them as a subsection of the external library section, in line with
what is done for the help text in the previous commit.

configure: move the hardware accel libs' entries in the help text

Group them in a subsection of the external library section. That should
make them easier to find and understand how they fit in the scheme of
things.

Also, rewrite the description text in a similar way as in the previous
commit.

configure: improve the help text for external libraries

Add a more accurate description of what the switches actually do (i.e.
allow using the given library, not enabling the corresponding
codecs etc.).

Replace the library descriptions, in many cases boilerplate text without
useful information, with a short summary of what the library does.

lavc: revert the Makefile part of 330177b

There is no real advantage to listing some codecs or subsystems
separately simply because they are somehow "hw-accelerated", on the
contrary it makes them harder to find than in a plain alphabetically
ordered list.

xtea-test: Use struct allocation functions from the API

blowfish-test: Use struct allocation functions from the API

blowfish-test: Return different values for different errors

movenc: Write 'loci' geotag metadata for 3gp and mp4

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Factorize a function for finding a metadata entry and the associated language

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Write ?xyz geotag metadata for mov files

Signed-off-by: Martin Storsjö <martin@martin.st>

mov: Also export loci altitude

Signed-off-by: Martin Storsjö <martin@martin.st>

mov: Append place name instead of overwriting for loci

Signed-off-by: Martin Storsjö <martin@martin.st>

mov: Fix parsing short loci

Previously, we required the minimum number of bytes required for
the full box. Don't strictly require the astronomical body and additional
notes fields, but do require an altitude field (which currently isn't
parsed). This matches the initial length check at the start of the function
(which doesn't know about the variable length place field).

Signed-off-by: Martin Storsjö <martin@martin.st>

mov: Print reason of loci parsing failure

Signed-off-by: Martin Storsjö <martin@martin.st>

mov: Add a comment referring to the standard that defines the loci box

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Add a missed const

This was missed in e1eb0fc9601, when ff_interleaved_peek was
changed to include const during the evolution of the patch.

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Add a test for VFR with b-frames, with a duration change at a fragment end

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Use packets in interleaving queues for the duration at the end of fragments

As long as caller only writes packets using av_interleaved_write_frame
with no manual flushing, this should allow us to always have accurate
durations at the end of fragments, since there should be at least
one queued packet in each stream (except for the stream where the
current packet is being written, but if the muxer itself does the
cutting of fragments, it also has info about the next packet for that
stream).

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc-test: Test write_data_type

Signed-off-by: Martin Storsjö <martin@martin.st>

matroskaenc: Provide output bytestream markers

Signed-off-by: Martin Storsjö <martin@martin.st>

movenc: Provide output bytestream markers for fragmented content

Signed-off-by: Martin Storsjö <martin@martin.st>

flvenc: Provide output bytestream markers

Signed-off-by: Martin Storsjö <martin@martin.st>

avio: Allow custom IO users to get labels for the output bytestream

This allows callers with avio write callbacks to get the bytestream
positions that correspond to keyframes, suitable for live streaming.

In the simplest form, a caller could expect that a header is written
to the bytestream during the avformat_write_header, and the data
output to the avio context during e.g. av_write_frame corresponds
exactly to the current packet passed in.

When combined with av_interleaved_write_frame, and with muxers that
do buffering (most muxers that do some sort of fragmenting or
clustering), the mapping from input data to bytestream positions
is nontrivial.

This allows callers to get directly information about what part
of the bytestream is what, without having to resort to assumptions
about the muxer behaviour.

One keyframe/fragment/block can still be split into multiple (if
they are larger than the aviocontext buffer), which would call
the callback with e.g. AVIO_DATA_MARKER_SYNC_POINT, followed by
AVIO_DATA_MARKER_UNKNOWN for the second time it is called with
the following data.

Signed-off-by: Martin Storsjö <martin@martin.st>

avprobe: Print stereo3d information

stereo3d: Add API to get name from value or value from name

Use it in av_dump_format() instead of a huge switch case.

lavf: Raw G.729 demuxer

Signed-off-by: Vittorio Giovara <vittorio.giovara@gmail.com>

fate: Update fate-lavf-ts after commit 393596f9d5

Signed-off-by: Martin Storsjö <martin@martin.st>

tools: Port to codec parameters API

mpegtsenc: stop impersonating ses in sdt

Unless specified, users must use non registered
range for network id

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

Move VLC and RL_VLC_ELEM structure definitions to a separate header

Use the newly created vlc.h directly instead of including get_bits when needed.
The VLC and RL_VLC_ELEM structures are independent from the bitreader.

Signed-off-by: Luca Barbato <lu_zero@gentoo.org>

avconv_dxva2: use the hwcontext API

hwcontext: add a dxva2 implementation

mpeg4videodec: Call av_log() in check_marker() with AVCodecContext instead of NULL

Signed-off-by: Anton Khirnov <anton@khirnov.net>

Move check_marker() from get_bits to mpeg4videodec

MPEG-4 is the only decoder which uses check_marker().

Signed-off-by: Anton Khirnov <anton@khirnov.net>

lavc: mark the old audio/video encoding API as deprecated

x86inc: Enable AVX emulation in additional cases

Allows emulation to work when dst is equal to src2 as long as the
instruction is commutative, e.g. `addps m0, m1, m0`.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86inc: Improve handling of %ifid with multi-token parameters

The yasm/nasm preprocessor only checks the first token, which means that
parameters such as `dword [rax]` are treated as identifiers, which is
generally not what we want.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86inc: Fix AVX emulation of some instructions

Signed-off-by: Anton Khirnov <anton@khirnov.net>

x86inc: Fix AVX emulation of scalar float instructions

Those instructions are not commutative since they only change the first
element in the vector and leave the rest unmodified.

Signed-off-by: Anton Khirnov <anton@khirnov.net>

avpacket: fix setting AVPacket.data in av_packet_ref()

The data field does not necessarily point to the beginning of the
underlying AVBuffer.

CC: libav-stable@libav.org

lavc: make avcodec_open2() fail when the timebase is not set for encoding

Many encoders use it. There is also a divide by the timebase lower in
this function, which would crash when it is not set.

Combine deprecation guards where appropriate

Some code blocks use multiple bits of deprecated API.

tests: Move all test programs to a subdirectory

Split global .gitignore file into per-directory files

Add some more deprecation guards

Avoids unused function/label/variable warnings after the next version bump.