Basics of FFmpeg examiner works.
[dcpomatic.git] / src / lib / ffmpeg_decoder.cc
index f7bb979441870c707454df55e23ed15c94dfc926..f1d984ee15967aa1576426127769fc0bddb23da3 100644 (file)
@@ -1,5 +1,3 @@
-/* -*- c-basic-offset: 8; default-tab-width: 8; -*- */
-
 /*
     Copyright (C) 2012 Carl Hetherington <cth@carlh.net>
 
 #include <iostream>
 #include <stdint.h>
 #include <boost/lexical_cast.hpp>
+#include <sndfile.h>
 extern "C" {
-#include <tiffio.h>
 #include <libavcodec/avcodec.h>
 #include <libavformat/avformat.h>
-#include <libswscale/swscale.h>
-#include <libpostproc/postprocess.h>
 }
-#include <sndfile.h>
 #include "film.h"
-#include "format.h"
-#include "transcoder.h"
-#include "job.h"
 #include "filter.h"
 #include "exceptions.h"
 #include "image.h"
@@ -65,163 +57,26 @@ using boost::optional;
 using boost::dynamic_pointer_cast;
 using libdcp::Size;
 
-boost::mutex FFmpegDecoder::_mutex;
-
-FFmpegDecoder::FFmpegDecoder (shared_ptr<const Film> f, shared_ptr<const FFmpegContent> c, bool video, bool audio, bool subtitles)
+FFmpegDecoder::FFmpegDecoder (shared_ptr<const Film> f, shared_ptr<const FFmpegContent> c, bool video, bool audio)
        : Decoder (f)
        , VideoDecoder (f, c)
        , AudioDecoder (f, c)
-       , _ffmpeg_content (c)
-       , _format_context (0)
-       , _video_stream (-1)
-       , _frame (0)
-       , _video_codec_context (0)
-       , _video_codec (0)
-       , _audio_codec_context (0)
-       , _audio_codec (0)
+       , FFmpeg (c)
        , _subtitle_codec_context (0)
        , _subtitle_codec (0)
        , _decode_video (video)
        , _decode_audio (audio)
-       , _decode_subtitles (subtitles)
 {
-       setup_general ();
-       setup_video ();
-       setup_audio ();
        setup_subtitle ();
 }
 
 FFmpegDecoder::~FFmpegDecoder ()
 {
-       boost::mutex::scoped_lock lm (_mutex);
-       
-       if (_audio_codec_context) {
-               avcodec_close (_audio_codec_context);
-       }
-
-       if (_video_codec_context) {
-               avcodec_close (_video_codec_context);
-       }
-
        if (_subtitle_codec_context) {
                avcodec_close (_subtitle_codec_context);
        }
-
-       av_free (_frame);
-       
-       avformat_close_input (&_format_context);
 }      
 
-void
-FFmpegDecoder::setup_general ()
-{
-       av_register_all ();
-
-       if (avformat_open_input (&_format_context, _ffmpeg_content->file().string().c_str(), 0, 0) < 0) {
-               throw OpenFileError (_ffmpeg_content->file().string ());
-       }
-
-       if (avformat_find_stream_info (_format_context, 0) < 0) {
-               throw DecodeError (_("could not find stream information"));
-       }
-
-       /* Find video, audio and subtitle streams */
-
-       for (uint32_t i = 0; i < _format_context->nb_streams; ++i) {
-               AVStream* s = _format_context->streams[i];
-               if (s->codec->codec_type == AVMEDIA_TYPE_VIDEO) {
-                       _video_stream = i;
-               } else if (s->codec->codec_type == AVMEDIA_TYPE_AUDIO) {
-
-                       /* This is a hack; sometimes it seems that _audio_codec_context->channel_layout isn't set up,
-                          so bodge it here.  No idea why we should have to do this.
-                       */
-
-                       if (s->codec->channel_layout == 0) {
-                               s->codec->channel_layout = av_get_default_channel_layout (s->codec->channels);
-                       }
-                       
-                       _audio_streams.push_back (
-                               shared_ptr<FFmpegAudioStream> (
-                                       new FFmpegAudioStream (stream_name (s), i, s->codec->sample_rate, s->codec->channels)
-                                       )
-                               );
-
-               } else if (s->codec->codec_type == AVMEDIA_TYPE_SUBTITLE) {
-                       _subtitle_streams.push_back (shared_ptr<FFmpegSubtitleStream> (new FFmpegSubtitleStream (stream_name (s), i)));
-               }
-       }
-
-       if (_video_stream < 0) {
-               throw DecodeError (N_("could not find video stream"));
-       }
-
-       _frame = avcodec_alloc_frame ();
-       if (_frame == 0) {
-               throw DecodeError (N_("could not allocate frame"));
-       }
-}
-
-void
-FFmpegDecoder::setup_video ()
-{
-       boost::mutex::scoped_lock lm (_mutex);
-       
-       _video_codec_context = _format_context->streams[_video_stream]->codec;
-       _video_codec = avcodec_find_decoder (_video_codec_context->codec_id);
-
-       if (_video_codec == 0) {
-               throw DecodeError (_("could not find video decoder"));
-       }
-
-       if (avcodec_open2 (_video_codec_context, _video_codec, 0) < 0) {
-               throw DecodeError (N_("could not open video decoder"));
-       }
-}
-
-void
-FFmpegDecoder::setup_audio ()
-{
-       boost::mutex::scoped_lock lm (_mutex);
-       
-       if (!_ffmpeg_content->audio_stream ()) {
-               return;
-       }
-
-       _audio_codec_context = _format_context->streams[_ffmpeg_content->audio_stream()->id]->codec;
-       _audio_codec = avcodec_find_decoder (_audio_codec_context->codec_id);
-
-       if (_audio_codec == 0) {
-               throw DecodeError (_("could not find audio decoder"));
-       }
-
-       if (avcodec_open2 (_audio_codec_context, _audio_codec, 0) < 0) {
-               throw DecodeError (N_("could not open audio decoder"));
-       }
-}
-
-void
-FFmpegDecoder::setup_subtitle ()
-{
-       boost::mutex::scoped_lock lm (_mutex);
-       
-       if (!_ffmpeg_content->subtitle_stream() || _ffmpeg_content->subtitle_stream()->id >= int (_format_context->nb_streams)) {
-               return;
-       }
-
-       _subtitle_codec_context = _format_context->streams[_ffmpeg_content->subtitle_stream()->id]->codec;
-       _subtitle_codec = avcodec_find_decoder (_subtitle_codec_context->codec_id);
-
-       if (_subtitle_codec == 0) {
-               throw DecodeError (_("could not find subtitle decoder"));
-       }
-       
-       if (avcodec_open2 (_subtitle_codec_context, _subtitle_codec, 0) < 0) {
-               throw DecodeError (N_("could not open subtitle decoder"));
-       }
-}
-
-
 void
 FFmpegDecoder::pass ()
 {
@@ -251,7 +106,9 @@ FFmpegDecoder::pass ()
                if (_ffmpeg_content->audio_stream() && _decode_audio) {
                        decode_audio_packet ();
                }
-                       
+
+               /* Stop us being asked for any more data */
+               _next_video = _next_audio = _ffmpeg_content->length ();
                return;
        }
 
@@ -261,7 +118,7 @@ FFmpegDecoder::pass ()
                decode_video_packet ();
        } else if (_ffmpeg_content->audio_stream() && _packet.stream_index == _ffmpeg_content->audio_stream()->id && _decode_audio) {
                decode_audio_packet ();
-       } else if (_ffmpeg_content->subtitle_stream() && _packet.stream_index == _ffmpeg_content->subtitle_stream()->id && _decode_subtitles) {
+       } else if (_ffmpeg_content->subtitle_stream() && _packet.stream_index == _ffmpeg_content->subtitle_stream()->id) {
 
                int got_subtitle;
                AVSubtitle sub;
@@ -382,59 +239,14 @@ FFmpegDecoder::deinterleave_audio (uint8_t** data, int size)
        return audio;
 }
 
-float
-FFmpegDecoder::video_frame_rate () const
-{
-       AVStream* s = _format_context->streams[_video_stream];
-
-       if (s->avg_frame_rate.num && s->avg_frame_rate.den) {
-               return av_q2d (s->avg_frame_rate);
-       }
-
-       return av_q2d (s->r_frame_rate);
-}
-
 AVSampleFormat
 FFmpegDecoder::audio_sample_format () const
 {
-       if (_audio_codec_context == 0) {
+       if (!_ffmpeg_content->audio_stream()) {
                return (AVSampleFormat) 0;
        }
        
-       return _audio_codec_context->sample_fmt;
-}
-
-libdcp::Size
-FFmpegDecoder::video_size () const
-{
-       return libdcp::Size (_video_codec_context->width, _video_codec_context->height);
-}
-
-string
-FFmpegDecoder::stream_name (AVStream* s) const
-{
-       stringstream n;
-
-       if (s->metadata) {
-               AVDictionaryEntry const * lang = av_dict_get (s->metadata, N_("language"), 0, 0);
-               if (lang) {
-                       n << lang->value;
-               }
-               
-               AVDictionaryEntry const * title = av_dict_get (s->metadata, N_("title"), 0, 0);
-               if (title) {
-                       if (!n.str().empty()) {
-                               n << N_(" ");
-                       }
-                       n << title->value;
-               }
-       }
-
-       if (n.str().empty()) {
-               n << N_("unknown");
-       }
-
-       return n.str ();
+       return audio_codec_context()->sample_fmt;
 }
 
 int
@@ -447,26 +259,29 @@ void
 FFmpegDecoder::seek (Time t)
 {
        do_seek (t, false, false);
+       VideoDecoder::seek (t);
 }
 
 void
 FFmpegDecoder::seek_back ()
 {
-       if (next() < 2.5) {
+       if (position() < (2.5 * TIME_HZ / _ffmpeg_content->video_frame_rate())) {
                return;
        }
        
-       do_seek (next() - 2.5 * TIME_HZ / video_frame_rate(), true, true);
+       do_seek (position() - 2.5 * TIME_HZ / _ffmpeg_content->video_frame_rate(), true, true);
+       VideoDecoder::seek_back ();
 }
 
 void
 FFmpegDecoder::seek_forward ()
 {
-       if (next() >= (video_length() - video_frame_rate())) {
+       if (position() >= (_ffmpeg_content->length() - 0.5 * TIME_HZ / _ffmpeg_content->video_frame_rate())) {
                return;
        }
        
-       do_seek (next() - 0.5 * TIME_HZ / video_frame_rate(), true, true);
+       do_seek (position() - 0.5 * TIME_HZ / _ffmpeg_content->video_frame_rate(), true, true);
+       VideoDecoder::seek_forward ();
 }
 
 void
@@ -475,7 +290,7 @@ FFmpegDecoder::do_seek (Time t, bool backwards, bool accurate)
        int64_t const vt = t / (av_q2d (_format_context->streams[_video_stream]->time_base) * TIME_HZ);
        av_seek_frame (_format_context, _video_stream, vt, backwards ? AVSEEK_FLAG_BACKWARD : 0);
 
-       avcodec_flush_buffers (_video_codec_context);
+       avcodec_flush_buffers (video_codec_context());
        if (_subtitle_codec_context) {
                avcodec_flush_buffers (_subtitle_codec_context);
        }
@@ -491,7 +306,7 @@ FFmpegDecoder::do_seek (Time t, bool backwards, bool accurate)
                        
                        if (_packet.stream_index == _video_stream) {
                                int finished = 0;
-                               int const r = avcodec_decode_video2 (_video_codec_context, _frame, &finished, &_packet);
+                               int const r = avcodec_decode_video2 (video_codec_context(), _frame, &finished, &_packet);
                                if (r >= 0 && finished) {
                                        int64_t const bet = av_frame_get_best_effort_timestamp (_frame);
                                        if (bet > vt) {
@@ -507,29 +322,6 @@ FFmpegDecoder::do_seek (Time t, bool backwards, bool accurate)
        return;
 }
 
-void
-FFmpegDecoder::film_changed (Film::Property p)
-{
-       switch (p) {
-       case Film::FILTERS:
-       {
-               boost::mutex::scoped_lock lm (_filter_graphs_mutex);
-               _filter_graphs.clear ();
-       }
-       break;
-
-       default:
-               break;
-       }
-}
-
-/** @return Length (in video frames) according to our content's header */
-ContentVideoFrame
-FFmpegDecoder::video_length () const
-{
-       return (double(_format_context->duration) / AV_TIME_BASE) * video_frame_rate();
-}
-
 void
 FFmpegDecoder::decode_audio_packet ()
 {
@@ -542,7 +334,7 @@ FFmpegDecoder::decode_audio_packet ()
        while (copy_packet.size > 0) {
 
                int frame_finished;
-               int const decode_result = avcodec_decode_audio4 (_audio_codec_context, _frame, &frame_finished, &copy_packet);
+               int const decode_result = avcodec_decode_audio4 (audio_codec_context(), _frame, &frame_finished, &copy_packet);
                if (decode_result >= 0) {
                        if (frame_finished) {
                        
@@ -551,11 +343,11 @@ FFmpegDecoder::decode_audio_packet ()
                                        * av_frame_get_best_effort_timestamp(_frame);
                                
                                int const data_size = av_samples_get_buffer_size (
-                                       0, _audio_codec_context->channels, _frame->nb_samples, audio_sample_format (), 1
+                                       0, audio_codec_context()->channels, _frame->nb_samples, audio_sample_format (), 1
                                        );
                                
-                               assert (_audio_codec_context->channels == _ffmpeg_content->audio_channels());
-                               Audio (deinterleave_audio (_frame->data, data_size), source_pts_seconds);
+                               assert (audio_codec_context()->channels == _ffmpeg_content->audio_channels());
+                               audio (deinterleave_audio (_frame->data, data_size), source_pts_seconds * TIME_HZ);
                        }
                        
                        copy_packet.data += decode_result;
@@ -568,7 +360,7 @@ bool
 FFmpegDecoder::decode_video_packet ()
 {
        int frame_finished;
-       if (avcodec_decode_video2 (_video_codec_context, _frame, &frame_finished, &_packet) < 0 || !frame_finished) {
+       if (avcodec_decode_video2 (video_codec_context(), _frame, &frame_finished, &_packet) < 0 || !frame_finished) {
                return false;
        }
                
@@ -582,27 +374,35 @@ FFmpegDecoder::decode_video_packet ()
        }
 
        if (i == _filter_graphs.end ()) {
-               graph.reset (new FilterGraph (_film, this, libdcp::Size (_frame->width, _frame->height), (AVPixelFormat) _frame->format));
-               _filter_graphs.push_back (graph);
-
                shared_ptr<const Film> film = _film.lock ();
                assert (film);
+
+               graph.reset (new FilterGraph (_ffmpeg_content, libdcp::Size (_frame->width, _frame->height), (AVPixelFormat) _frame->format));
+               _filter_graphs.push_back (graph);
+
                film->log()->log (String::compose (N_("New graph for %1x%2, pixel format %3"), _frame->width, _frame->height, _frame->format));
        } else {
                graph = *i;
        }
 
-
        list<shared_ptr<Image> > images = graph->process (_frame);
+
+       string post_process = Filter::ffmpeg_strings (_ffmpeg_content->filters()).second;
        
        for (list<shared_ptr<Image> >::iterator i = images.begin(); i != images.end(); ++i) {
+
+               shared_ptr<Image> image = *i;
+               if (!post_process.empty ()) {
+                       image = image->post_process (post_process, true);
+               }
+               
                int64_t const bet = av_frame_get_best_effort_timestamp (_frame);
                if (bet != AV_NOPTS_VALUE) {
                        /* XXX: may need to insert extra frames / remove frames here ...
                           (as per old Matcher)
                        */
                        Time const t = bet * av_q2d (_format_context->streams[_video_stream]->time_base) * TIME_HZ;
-                       video (*i, false, t);
+                       video (image, false, t);
                } else {
                        shared_ptr<const Film> film = _film.lock ();
                        assert (film);
@@ -614,7 +414,44 @@ FFmpegDecoder::decode_video_packet ()
 }
 
 Time
-FFmpegDecoder::next () const
+FFmpegDecoder::position () const
+{
+       if (_decode_video && _decode_audio && _ffmpeg_content->audio_stream()) {
+               return min (_next_video, _next_audio);
+       }
+
+       if (_decode_audio && _ffmpeg_content->audio_stream()) {
+               return _next_audio;
+       }
+
+       return _next_video;
+}
+
+bool
+FFmpegDecoder::done () const
+{
+       bool const ad = !_decode_audio || !_ffmpeg_content->audio_stream() || audio_done();
+       bool const vd = !_decode_video || video_done();
+       return ad && vd;
+}
+       
+void
+FFmpegDecoder::setup_subtitle ()
 {
-       return min (_next_video, _next_audio);
+       boost::mutex::scoped_lock lm (_mutex);
+       
+       if (!_ffmpeg_content->subtitle_stream() || _ffmpeg_content->subtitle_stream()->id >= int (_format_context->nb_streams)) {
+               return;
+       }
+
+       _subtitle_codec_context = _format_context->streams[_ffmpeg_content->subtitle_stream()->id]->codec;
+       _subtitle_codec = avcodec_find_decoder (_subtitle_codec_context->codec_id);
+
+       if (_subtitle_codec == 0) {
+               throw DecodeError (_("could not find subtitle decoder"));
+       }
+       
+       if (avcodec_open2 (_subtitle_codec_context, _subtitle_codec, 0) < 0) {
+               throw DecodeError (N_("could not open subtitle decoder"));
+       }
 }