{Video,Audio}Frame -> Frame.
[dcpomatic.git] / src / lib / video_content.cc
1 /*
2     Copyright (C) 2013-2015 Carl Hetherington <cth@carlh.net>
3
4     This program is free software; you can redistribute it and/or modify
5     it under the terms of the GNU General Public License as published by
6     the Free Software Foundation; either version 2 of the License, or
7     (at your option) any later version.
8
9     This program is distributed in the hope that it will be useful,
10     but WITHOUT ANY WARRANTY; without even the implied warranty of
11     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12     GNU General Public License for more details.
13
14     You should have received a copy of the GNU General Public License
15     along with this program; if not, write to the Free Software
16     Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
17
18 */
19
20 #include "video_content.h"
21 #include "video_examiner.h"
22 #include "compose.hpp"
23 #include "ratio.h"
24 #include "config.h"
25 #include "colour_conversion.h"
26 #include "util.h"
27 #include "film.h"
28 #include "exceptions.h"
29 #include "frame_rate_change.h"
30 #include "log.h"
31 #include "safe_stringstream.h"
32 #include "raw_convert.h"
33 #include <libcxml/cxml.h>
34 #include <dcp/colour_matrix.h>
35 #include <iomanip>
36
37 #include "i18n.h"
38
39 #define LOG_GENERAL(...) film->log()->log (String::compose (__VA_ARGS__), Log::TYPE_GENERAL);
40
41 int const VideoContentProperty::VIDEO_SIZE        = 0;
42 int const VideoContentProperty::VIDEO_FRAME_RATE  = 1;
43 int const VideoContentProperty::VIDEO_FRAME_TYPE  = 2;
44 int const VideoContentProperty::VIDEO_CROP        = 3;
45 int const VideoContentProperty::VIDEO_SCALE       = 4;
46 int const VideoContentProperty::COLOUR_CONVERSION = 5;
47 int const VideoContentProperty::VIDEO_FADE_IN     = 6;
48 int const VideoContentProperty::VIDEO_FADE_OUT    = 7;
49
50 using std::string;
51 using std::setprecision;
52 using std::cout;
53 using std::vector;
54 using std::min;
55 using std::max;
56 using std::stringstream;
57 using std::fixed;
58 using std::setprecision;
59 using boost::shared_ptr;
60 using boost::optional;
61 using boost::dynamic_pointer_cast;
62
63 VideoContent::VideoContent (shared_ptr<const Film> f)
64         : Content (f)
65         , _video_length (0)
66         , _video_frame_rate (0)
67         , _video_frame_type (VIDEO_FRAME_TYPE_2D)
68         , _scale (VideoContentScale (Ratio::from_id ("178")))
69 {
70         set_default_colour_conversion ();
71 }
72
73 VideoContent::VideoContent (shared_ptr<const Film> f, DCPTime s, ContentTime len)
74         : Content (f, s)
75         , _video_length (len)
76         , _video_frame_rate (0)
77         , _video_frame_type (VIDEO_FRAME_TYPE_2D)
78         , _scale (VideoContentScale (Ratio::from_id ("178")))
79 {
80         set_default_colour_conversion ();
81 }
82
83 VideoContent::VideoContent (shared_ptr<const Film> f, boost::filesystem::path p)
84         : Content (f, p)
85         , _video_length (0)
86         , _video_frame_rate (0)
87         , _video_frame_type (VIDEO_FRAME_TYPE_2D)
88         , _scale (VideoContentScale (Ratio::from_id ("178")))
89 {
90         set_default_colour_conversion ();
91 }
92
93 VideoContent::VideoContent (shared_ptr<const Film> f, cxml::ConstNodePtr node, int version)
94         : Content (f, node)
95 {
96         _video_size.width = node->number_child<int> ("VideoWidth");
97         _video_size.height = node->number_child<int> ("VideoHeight");
98         _video_frame_rate = node->number_child<float> ("VideoFrameRate");
99
100         if (version < 32) {
101                 /* DCP-o-matic 1.0 branch */
102                 _video_length = ContentTime::from_frames (node->number_child<int64_t> ("VideoLength"), _video_frame_rate);
103         } else {
104                 _video_length = ContentTime (node->number_child<ContentTime::Type> ("VideoLength"));
105         }
106         
107         _video_frame_type = static_cast<VideoFrameType> (node->number_child<int> ("VideoFrameType"));
108         _sample_aspect_ratio = node->optional_number_child<float> ("SampleAspectRatio");
109         _crop.left = node->number_child<int> ("LeftCrop");
110         _crop.right = node->number_child<int> ("RightCrop");
111         _crop.top = node->number_child<int> ("TopCrop");
112         _crop.bottom = node->number_child<int> ("BottomCrop");
113
114         if (version <= 7) {
115                 optional<string> r = node->optional_string_child ("Ratio");
116                 if (r) {
117                         _scale = VideoContentScale (Ratio::from_id (r.get ()));
118                 }
119         } else {
120                 _scale = VideoContentScale (node->node_child ("Scale"));
121         }
122
123         
124         if (node->optional_node_child ("ColourConversion")) {
125                 _colour_conversion = ColourConversion (node->node_child ("ColourConversion"), version);
126         }
127         if (version >= 32) {
128                 _fade_in = ContentTime (node->number_child<int64_t> ("FadeIn"));
129                 _fade_out = ContentTime (node->number_child<int64_t> ("FadeOut"));
130         }
131 }
132
133 VideoContent::VideoContent (shared_ptr<const Film> f, vector<shared_ptr<Content> > c)
134         : Content (f, c)
135         , _video_length (0)
136 {
137         shared_ptr<VideoContent> ref = dynamic_pointer_cast<VideoContent> (c[0]);
138         DCPOMATIC_ASSERT (ref);
139
140         for (size_t i = 0; i < c.size(); ++i) {
141                 shared_ptr<VideoContent> vc = dynamic_pointer_cast<VideoContent> (c[i]);
142
143                 if (vc->video_size() != ref->video_size()) {
144                         throw JoinError (_("Content to be joined must have the same picture size."));
145                 }
146
147                 if (vc->video_frame_rate() != ref->video_frame_rate()) {
148                         throw JoinError (_("Content to be joined must have the same video frame rate."));
149                 }
150
151                 if (vc->video_frame_type() != ref->video_frame_type()) {
152                         throw JoinError (_("Content to be joined must have the same video frame type."));
153                 }
154
155                 if (vc->crop() != ref->crop()) {
156                         throw JoinError (_("Content to be joined must have the same crop."));
157                 }
158
159                 if (vc->scale() != ref->scale()) {
160                         throw JoinError (_("Content to be joined must have the same scale setting."));
161                 }
162
163                 if (vc->colour_conversion() != ref->colour_conversion()) {
164                         throw JoinError (_("Content to be joined must have the same colour conversion."));
165                 }
166
167                 if (vc->fade_in() != ref->fade_in() || vc->fade_out() != ref->fade_out()) {
168                         throw JoinError (_("Content to be joined must have the same fades."));
169                 }
170                 
171                 _video_length += vc->video_length ();
172         }
173
174         _video_size = ref->video_size ();
175         _video_frame_rate = ref->video_frame_rate ();
176         _video_frame_type = ref->video_frame_type ();
177         _crop = ref->crop ();
178         _scale = ref->scale ();
179         _colour_conversion = ref->colour_conversion ();
180         _fade_in = ref->fade_in ();
181         _fade_out = ref->fade_out ();
182 }
183
184 void
185 VideoContent::as_xml (xmlpp::Node* node) const
186 {
187         boost::mutex::scoped_lock lm (_mutex);
188         node->add_child("VideoLength")->add_child_text (raw_convert<string> (_video_length.get ()));
189         node->add_child("VideoWidth")->add_child_text (raw_convert<string> (_video_size.width));
190         node->add_child("VideoHeight")->add_child_text (raw_convert<string> (_video_size.height));
191         node->add_child("VideoFrameRate")->add_child_text (raw_convert<string> (_video_frame_rate));
192         node->add_child("VideoFrameType")->add_child_text (raw_convert<string> (static_cast<int> (_video_frame_type)));
193         if (_sample_aspect_ratio) {
194                 node->add_child("SampleAspectRatio")->add_child_text (raw_convert<string> (_sample_aspect_ratio.get ()));
195         }
196         _crop.as_xml (node);
197         _scale.as_xml (node->add_child("Scale"));
198         if (_colour_conversion) {
199                 _colour_conversion.get().as_xml (node->add_child("ColourConversion"));
200         }
201         node->add_child("FadeIn")->add_child_text (raw_convert<string> (_fade_in.get ()));
202         node->add_child("FadeOut")->add_child_text (raw_convert<string> (_fade_out.get ()));
203 }
204
205 void
206 VideoContent::set_default_colour_conversion ()
207 {
208         /* If there's no better offer we'll use Rec. 709 */
209         boost::mutex::scoped_lock lm (_mutex);
210         _colour_conversion = PresetColourConversion::from_id ("rec709").conversion;
211 }
212
213 void
214 VideoContent::take_from_video_examiner (shared_ptr<VideoExaminer> d)
215 {
216         /* These examiner calls could call other content methods which take a lock on the mutex */
217         dcp::Size const vs = d->video_size ();
218         optional<float> const vfr = d->video_frame_rate ();
219         ContentTime vl = d->video_length ();
220         optional<float> const ar = d->sample_aspect_ratio ();
221
222         {
223                 boost::mutex::scoped_lock lm (_mutex);
224                 _video_size = vs;
225                 /* Default video frame rate to 24fps if the examiner doesn't know */
226                 _video_frame_rate = vfr.get_value_or (24);
227                 _video_length = vl;
228                 _sample_aspect_ratio = ar;
229
230                 /* Guess correct scale from size and sample aspect ratio */
231                 _scale = VideoContentScale (
232                         Ratio::nearest_from_ratio (float (_video_size.width) * ar.get_value_or (1) / _video_size.height)
233                         );
234         }
235
236         shared_ptr<const Film> film = _film.lock ();
237         DCPOMATIC_ASSERT (film);
238         LOG_GENERAL ("Video length obtained from header as %1 frames", _video_length.frames (_video_frame_rate));
239
240         set_default_colour_conversion ();
241         
242         signal_changed (VideoContentProperty::VIDEO_SIZE);
243         signal_changed (VideoContentProperty::VIDEO_FRAME_RATE);
244         signal_changed (VideoContentProperty::VIDEO_SCALE);
245         signal_changed (ContentProperty::LENGTH);
246 }
247
248 void
249 VideoContent::set_left_crop (int c)
250 {
251         {
252                 boost::mutex::scoped_lock lm (_mutex);
253                 
254                 if (_crop.left == c) {
255                         return;
256                 }
257                 
258                 _crop.left = c;
259         }
260         
261         signal_changed (VideoContentProperty::VIDEO_CROP);
262 }
263
264 void
265 VideoContent::set_right_crop (int c)
266 {
267         {
268                 boost::mutex::scoped_lock lm (_mutex);
269                 if (_crop.right == c) {
270                         return;
271                 }
272                 
273                 _crop.right = c;
274         }
275         
276         signal_changed (VideoContentProperty::VIDEO_CROP);
277 }
278
279 void
280 VideoContent::set_top_crop (int c)
281 {
282         {
283                 boost::mutex::scoped_lock lm (_mutex);
284                 if (_crop.top == c) {
285                         return;
286                 }
287                 
288                 _crop.top = c;
289         }
290         
291         signal_changed (VideoContentProperty::VIDEO_CROP);
292 }
293
294 void
295 VideoContent::set_bottom_crop (int c)
296 {
297         {
298                 boost::mutex::scoped_lock lm (_mutex);
299                 if (_crop.bottom == c) {
300                         return;
301                 }
302                 
303                 _crop.bottom = c;
304         }
305
306         signal_changed (VideoContentProperty::VIDEO_CROP);
307 }
308
309 void
310 VideoContent::set_scale (VideoContentScale s)
311 {
312         {
313                 boost::mutex::scoped_lock lm (_mutex);
314                 if (_scale == s) {
315                         return;
316                 }
317
318                 _scale = s;
319         }
320
321         signal_changed (VideoContentProperty::VIDEO_SCALE);
322 }
323
324 /** @return string which includes everything about how this content looks */
325 string
326 VideoContent::identifier () const
327 {
328         SafeStringStream s;
329         s << Content::identifier()
330           << "_" << crop().left
331           << "_" << crop().right
332           << "_" << crop().top
333           << "_" << crop().bottom
334           << "_" << scale().id();
335
336         if (colour_conversion()) {
337                 s << "_" << colour_conversion().get().identifier ();
338         }
339
340         return s.str ();
341 }
342
343 void
344 VideoContent::set_video_frame_type (VideoFrameType t)
345 {
346         {
347                 boost::mutex::scoped_lock lm (_mutex);
348                 _video_frame_type = t;
349         }
350
351         signal_changed (VideoContentProperty::VIDEO_FRAME_TYPE);
352 }
353
354 string
355 VideoContent::technical_summary () const
356 {
357         string s = String::compose (
358                 N_("video: length %1, size %2x%3, rate %4"),
359                 video_length_after_3d_combine().seconds(),
360                 video_size().width,
361                 video_size().height,
362                 video_frame_rate()
363                 );
364
365         if (sample_aspect_ratio ()) {
366                 s += String::compose (N_(", sample aspect ratio %1"), (sample_aspect_ratio().get ()));
367         }
368
369         return s;
370 }
371
372 dcp::Size
373 VideoContent::video_size_after_3d_split () const
374 {
375         dcp::Size const s = video_size ();
376         switch (video_frame_type ()) {
377         case VIDEO_FRAME_TYPE_2D:
378         case VIDEO_FRAME_TYPE_3D_ALTERNATE:
379         case VIDEO_FRAME_TYPE_3D_LEFT:
380         case VIDEO_FRAME_TYPE_3D_RIGHT:
381                 return s;
382         case VIDEO_FRAME_TYPE_3D_LEFT_RIGHT:
383                 return dcp::Size (s.width / 2, s.height);
384         case VIDEO_FRAME_TYPE_3D_TOP_BOTTOM:
385                 return dcp::Size (s.width, s.height / 2);
386         }
387
388         DCPOMATIC_ASSERT (false);
389 }
390
391 void
392 VideoContent::unset_colour_conversion (bool signal)
393 {
394         {
395                 boost::mutex::scoped_lock lm (_mutex);
396                 _colour_conversion = boost::optional<ColourConversion> ();
397         }
398
399         if (signal) {
400                 signal_changed (VideoContentProperty::COLOUR_CONVERSION);
401         }
402 }
403
404 void
405 VideoContent::set_colour_conversion (ColourConversion c)
406 {
407         {
408                 boost::mutex::scoped_lock lm (_mutex);
409                 _colour_conversion = c;
410         }
411
412         signal_changed (VideoContentProperty::COLOUR_CONVERSION);
413 }
414
415 void
416 VideoContent::set_fade_in (ContentTime t)
417 {
418         {
419                 boost::mutex::scoped_lock lm (_mutex);
420                 _fade_in = t;
421         }
422
423         signal_changed (VideoContentProperty::VIDEO_FADE_IN);
424 }
425
426 void
427 VideoContent::set_fade_out (ContentTime t)
428 {
429         {
430                 boost::mutex::scoped_lock lm (_mutex);
431                 _fade_out = t;
432         }
433
434         signal_changed (VideoContentProperty::VIDEO_FADE_OUT);
435 }
436
437 /** @return Video size after 3D split and crop */
438 dcp::Size
439 VideoContent::video_size_after_crop () const
440 {
441         return crop().apply (video_size_after_3d_split ());
442 }
443
444 void
445 VideoContent::scale_and_crop_to_fit_width ()
446 {
447         shared_ptr<const Film> film = _film.lock ();
448         DCPOMATIC_ASSERT (film);
449
450         set_scale (VideoContentScale (film->container ()));
451
452         int const crop = max (0, int (video_size().height - double (film->frame_size().height) * video_size().width / film->frame_size().width));
453         set_top_crop (crop / 2);
454         set_bottom_crop (crop / 2);
455 }
456
457 void
458 VideoContent::scale_and_crop_to_fit_height ()
459 {
460         shared_ptr<const Film> film = _film.lock ();
461         DCPOMATIC_ASSERT (film);
462
463         set_scale (VideoContentScale (film->container ()));
464
465         int const crop = max (0, int (video_size().width - double (film->frame_size().width) * video_size().height / film->frame_size().height));
466         set_left_crop (crop / 2);
467         set_right_crop (crop / 2);
468 }
469
470 void
471 VideoContent::set_video_frame_rate (float r)
472 {
473         {
474                 boost::mutex::scoped_lock lm (_mutex);
475                 if (_video_frame_rate == r) {
476                         return;
477                 }
478                 
479                 _video_frame_rate = r;
480         }
481         
482         signal_changed (VideoContentProperty::VIDEO_FRAME_RATE);
483 }
484
485 optional<float>
486 VideoContent::fade (Frame f) const
487 {
488         DCPOMATIC_ASSERT (f >= 0);
489         
490         if (f < fade_in().frames (video_frame_rate ())) {
491                 return float (f) / _fade_in.frames (video_frame_rate ());
492         }
493
494         Frame fade_out_start = ContentTime (video_length() - fade_out()).frames (video_frame_rate ());
495         if (f >= fade_out_start) {
496                 return 1 - float (f - fade_out_start) / fade_out().frames (video_frame_rate ());
497         }
498
499         return optional<float> ();
500 }
501
502 string
503 VideoContent::processing_description () const
504 {
505         /* stringstream is OK here as this string is just for presentation to the user */
506         stringstream d;
507
508         if (video_size().width && video_size().height) {
509                 d << String::compose (
510                         _("Content video is %1x%2"),
511                         video_size_after_3d_split().width,
512                         video_size_after_3d_split().height
513                         );
514
515
516                 float ratio = video_size_after_3d_split().ratio ();
517
518                 if (sample_aspect_ratio ()) {
519                         d << ", " << _("pixel aspect ratio") << " " << fixed << setprecision(2) << sample_aspect_ratio().get () << ":1";
520                         ratio *= sample_aspect_ratio().get ();
521                 }
522
523                 d << "\n" << _("Display aspect ratio") << " " << fixed << setprecision(2) << ratio << ":1\n";
524         }
525
526         if ((crop().left || crop().right || crop().top || crop().bottom) && video_size() != dcp::Size (0, 0)) {
527                 dcp::Size cropped = video_size_after_crop ();
528                 d << String::compose (
529                         _("Cropped to %1x%2"),
530                         cropped.width, cropped.height
531                         );
532
533                 d << " (" << fixed << setprecision(2) << cropped.ratio () << ":1)\n";
534         }
535
536         shared_ptr<const Film> film = _film.lock ();
537         DCPOMATIC_ASSERT (film);
538
539         dcp::Size const container_size = film->frame_size ();
540         dcp::Size const scaled = scale().size (dynamic_pointer_cast<const VideoContent> (shared_from_this ()), container_size, container_size);
541
542         if (scaled != video_size_after_crop ()) {
543                 d << String::compose (
544                         _("Scaled to %1x%2"),
545                         scaled.width, scaled.height
546                         );
547
548                 d << " (" << fixed << setprecision(2) << scaled.ratio() << ":1)\n";
549         }
550         
551         if (scaled != container_size) {
552                 d << String::compose (
553                         _("Padded with black to fit container %1 (%2x%3)"),
554                         film->container()->nickname (),
555                         container_size.width, container_size.height
556                         );
557
558                 d << " (" << fixed << setprecision(2) << container_size.ratio () << ":1)\n";
559         }
560
561         d << _("Content frame rate");
562         d << " " << fixed << setprecision(4) << video_frame_rate() << "\n";
563         
564         FrameRateChange frc (video_frame_rate(), film->video_frame_rate ());
565         d << frc.description () << "\n";
566
567         return d.str ();
568 }