Allow 96kHz audio as an advanced option (#1789).
[dcpomatic.git] / src / lib / film.cc
1 /*
2     Copyright (C) 2012-2021 Carl Hetherington <cth@carlh.net>
3
4     This file is part of DCP-o-matic.
5
6     DCP-o-matic is free software; you can redistribute it and/or modify
7     it under the terms of the GNU General Public License as published by
8     the Free Software Foundation; either version 2 of the License, or
9     (at your option) any later version.
10
11     DCP-o-matic is distributed in the hope that it will be useful,
12     but WITHOUT ANY WARRANTY; without even the implied warranty of
13     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14     GNU General Public License for more details.
15
16     You should have received a copy of the GNU General Public License
17     along with DCP-o-matic.  If not, see <http://www.gnu.org/licenses/>.
18
19 */
20
21
22 /** @file  src/film.cc
23  *  @brief A representation of some audio, video and subtitle content, and details of
24  *  how they should be presented in a DCP.
25  */
26
27
28 #include "atmos_content.h"
29 #include "audio_content.h"
30 #include "audio_processor.h"
31 #include "change_signaller.h"
32 #include "check_content_change_job.h"
33 #include "cinema.h"
34 #include "compose.hpp"
35 #include "config.h"
36 #include "cross.h"
37 #include "dcp_content.h"
38 #include "dcp_content_type.h"
39 #include "dcp_encoder.h"
40 #include "dcpomatic_log.h"
41 #include "digester.h"
42 #include "environment_info.h"
43 #include "examine_content_job.h"
44 #include "exceptions.h"
45 #include "ffmpeg_content.h"
46 #include "ffmpeg_subtitle_stream.h"
47 #include "file_log.h"
48 #include "film.h"
49 #include "font.h"
50 #include "job.h"
51 #include "job_manager.h"
52 #include "kdm_with_metadata.h"
53 #include "null_log.h"
54 #include "playlist.h"
55 #include "ratio.h"
56 #include "screen.h"
57 #include "text_content.h"
58 #include "transcode_job.h"
59 #include "upload_job.h"
60 #include "util.h"
61 #include "video_content.h"
62 #include "version.h"
63 #include <libcxml/cxml.h>
64 #include <dcp/certificate_chain.h>
65 #include <dcp/cpl.h>
66 #include <dcp/decrypted_kdm.h>
67 #include <dcp/local_time.h>
68 #include <dcp/raw_convert.h>
69 #include <dcp/reel_asset.h>
70 #include <dcp/reel_file_asset.h>
71 #include <dcp/util.h>
72 #include <libxml++/libxml++.h>
73 #include <boost/algorithm/string.hpp>
74 #include <boost/filesystem.hpp>
75 #include <boost/regex.hpp>
76 #include <unistd.h>
77 #include <algorithm>
78 #include <cstdlib>
79 #include <iomanip>
80 #include <iostream>
81 #include <set>
82 #include <stdexcept>
83
84 #include "i18n.h"
85
86
87 using std::back_inserter;
88 using std::copy;
89 using std::cout;
90 using std::dynamic_pointer_cast;
91 using std::exception;
92 using std::find;
93 using std::list;
94 using std::make_pair;
95 using std::make_shared;
96 using std::map;
97 using std::max;
98 using std::min;
99 using std::pair;
100 using std::runtime_error;
101 using std::set;
102 using std::setfill;
103 using std::shared_ptr;
104 using std::string;
105 using std::vector;
106 using std::weak_ptr;
107 using boost::optional;
108 using boost::is_any_of;
109 #if BOOST_VERSION >= 106100
110 using namespace boost::placeholders;
111 #endif
112 using dcp::raw_convert;
113 using namespace dcpomatic;
114
115
116 static constexpr char metadata_file[] = "metadata.xml";
117
118
119 /* 5 -> 6
120  * AudioMapping XML changed.
121  * 6 -> 7
122  * Subtitle offset changed to subtitle y offset, and subtitle x offset added.
123  * 7 -> 8
124  * Use <Scale> tag in <VideoContent> rather than <Ratio>.
125  * 8 -> 9
126  * DCI -> ISDCF
127  * 9 -> 10
128  * Subtitle X and Y scale.
129  *
130  * Bumped to 32 for 2.0 branch; some times are expressed in Times rather
131  * than frames now.
132  *
133  * 32 -> 33
134  * Changed <Period> to <Subtitle> in FFmpegSubtitleStream
135  * 33 -> 34
136  * Content only contains audio/subtitle-related tags if those things
137  * are present.
138  * 34 -> 35
139  * VideoFrameType in VideoContent is a string rather than an integer.
140  * 35 -> 36
141  * EffectColour rather than OutlineColour in Subtitle.
142  * 36 -> 37
143  * TextContent can be in a Caption tag, and some of the tag names
144  * have had Subtitle prefixes or suffixes removed.
145  * 37 -> 38
146  * VideoContent scale expressed just as "guess" or "custom"
147  */
148 int const Film::current_state_version = 38;
149
150
151 /** Construct a Film object in a given directory.
152  *
153  *  @param dir Film directory.
154  */
155
156 Film::Film (optional<boost::filesystem::path> dir)
157         : _playlist (new Playlist)
158         , _use_isdcf_name (Config::instance()->use_isdcf_name_by_default())
159         , _dcp_content_type (Config::instance()->default_dcp_content_type ())
160         , _container (Config::instance()->default_container ())
161         , _resolution (Resolution::TWO_K)
162         , _encrypted (false)
163         , _context_id (dcp::make_uuid ())
164         , _j2k_bandwidth (Config::instance()->default_j2k_bandwidth ())
165         , _video_frame_rate (24)
166         , _audio_channels (Config::instance()->default_dcp_audio_channels ())
167         , _three_d (false)
168         , _sequence (true)
169         , _interop (Config::instance()->default_interop ())
170         , _audio_processor (0)
171         , _reel_type (ReelType::SINGLE)
172         , _reel_length (2000000000)
173         , _reencode_j2k (false)
174         , _user_explicit_video_frame_rate (false)
175         , _user_explicit_container (false)
176         , _user_explicit_resolution (false)
177         , _name_language (dcp::LanguageTag("en-US"))
178         , _version_number (1)
179         , _status (dcp::Status::FINAL)
180         , _state_version (current_state_version)
181         , _dirty (false)
182         , _tolerant (false)
183 {
184         set_isdcf_date_today ();
185
186         auto metadata = Config::instance()->default_metadata();
187         if (metadata.find("chain") != metadata.end()) {
188                 _chain = metadata["chain"];
189         }
190         if (metadata.find("distributor") != metadata.end()) {
191                 _distributor = metadata["distributor"];
192         }
193         if (metadata.find("facility") != metadata.end()) {
194                 _facility = metadata["facility"];
195         }
196         if (metadata.find("studio") != metadata.end()) {
197                 _studio = metadata["studio"];
198         }
199
200         _playlist_change_connection = _playlist->Change.connect (bind (&Film::playlist_change, this, _1));
201         _playlist_order_changed_connection = _playlist->OrderChange.connect (bind (&Film::playlist_order_changed, this));
202         _playlist_content_change_connection = _playlist->ContentChange.connect (bind (&Film::playlist_content_change, this, _1, _2, _3, _4));
203         _playlist_length_change_connection = _playlist->LengthChange.connect (bind(&Film::playlist_length_change, this));
204
205         if (dir) {
206                 /* Make state.directory a complete path without ..s (where possible)
207                    (Code swiped from Adam Bowen on stackoverflow)
208                    XXX: couldn't/shouldn't this just be boost::filesystem::canonical?
209                 */
210
211                 boost::filesystem::path p (boost::filesystem::system_complete (dir.get()));
212                 boost::filesystem::path result;
213                 for (auto i: p) {
214                         if (i == "..") {
215                                 boost::system::error_code ec;
216                                 if (boost::filesystem::is_symlink(result, ec) || result.filename() == "..") {
217                                         result /= i;
218                                 } else {
219                                         result = result.parent_path ();
220                                 }
221                         } else if (i != ".") {
222                                 result /= i;
223                         }
224                 }
225
226                 set_directory (result.make_preferred ());
227         }
228
229         if (_directory) {
230                 _log = make_shared<FileLog>(file("log"));
231         } else {
232                 _log = make_shared<NullLog>();
233         }
234
235         _playlist->set_sequence (_sequence);
236 }
237
238 Film::~Film ()
239 {
240         for (auto& i: _job_connections) {
241                 i.disconnect ();
242         }
243
244         for (auto& i: _audio_analysis_connections) {
245                 i.disconnect ();
246         }
247 }
248
249 string
250 Film::video_identifier () const
251 {
252         DCPOMATIC_ASSERT (container ());
253
254         string s = container()->id()
255                 + "_" + resolution_to_string (_resolution)
256                 + "_" + _playlist->video_identifier()
257                 + "_" + raw_convert<string>(_video_frame_rate)
258                 + "_" + raw_convert<string>(j2k_bandwidth());
259
260         if (encrypted ()) {
261                 /* This is insecure but hey, the key is in plaintext in metadata.xml */
262                 s += "_E" + _key.hex();
263         } else {
264                 s += "_P";
265         }
266
267         if (_interop) {
268                 s += "_I";
269         } else {
270                 s += "_S";
271         }
272
273         if (_three_d) {
274                 s += "_3D";
275         }
276
277         if (_reencode_j2k) {
278                 s += "_R";
279         }
280
281         return s;
282 }
283
284 /** @return The file to write video frame info to */
285 boost::filesystem::path
286 Film::info_file (DCPTimePeriod period) const
287 {
288         boost::filesystem::path p;
289         p /= "info";
290         p /= video_identifier () + "_" + raw_convert<string> (period.from.get()) + "_" + raw_convert<string> (period.to.get());
291         return file (p);
292 }
293
294 boost::filesystem::path
295 Film::internal_video_asset_dir () const
296 {
297         return dir ("video");
298 }
299
300 boost::filesystem::path
301 Film::internal_video_asset_filename (DCPTimePeriod p) const
302 {
303         return video_identifier() + "_" + raw_convert<string> (p.from.get()) + "_" + raw_convert<string> (p.to.get()) + ".mxf";
304 }
305
306 boost::filesystem::path
307 Film::audio_analysis_path (shared_ptr<const Playlist> playlist) const
308 {
309         auto p = dir ("analysis");
310
311         Digester digester;
312         for (auto i: playlist->content()) {
313                 if (!i->audio) {
314                         continue;
315                 }
316
317                 digester.add (i->digest());
318                 digester.add (i->audio->mapping().digest());
319                 if (playlist->content().size() != 1) {
320                         /* Analyses should be considered equal regardless of gain
321                            if they were made from just one piece of content.  This
322                            is because we can fake any gain change in a single-content
323                            analysis at the plotting stage rather than having to
324                            recompute it.
325                         */
326                         digester.add (i->audio->gain());
327
328                         /* Likewise we only care about position if we're looking at a
329                          * whole-project view.
330                          */
331                         digester.add (i->position().get());
332                         digester.add (i->trim_start().get());
333                         digester.add (i->trim_end().get());
334                 }
335         }
336
337         if (audio_processor ()) {
338                 digester.add (audio_processor()->id ());
339         }
340
341         digester.add (audio_channels());
342
343         p /= digester.get ();
344         return p;
345 }
346
347
348 boost::filesystem::path
349 Film::subtitle_analysis_path (shared_ptr<const Content> content) const
350 {
351         auto p = dir ("analysis");
352
353         Digester digester;
354         digester.add (content->digest());
355
356         if (!content->text.empty()) {
357                 auto tc = content->text.front();
358                 digester.add (tc->x_scale());
359                 digester.add (tc->y_scale());
360                 for (auto i: tc->fonts()) {
361                         digester.add (i->id());
362                 }
363                 if (tc->effect()) {
364                         digester.add (tc->effect().get());
365                 }
366                 digester.add (tc->line_spacing());
367                 digester.add (tc->outline_width());
368         }
369
370         auto fc = dynamic_pointer_cast<const FFmpegContent>(content);
371         if (fc) {
372                 digester.add (fc->subtitle_stream()->identifier());
373         }
374
375         p /= digester.get ();
376         return p;
377 }
378
379
380 /** Start a job to send our DCP to the configured TMS */
381 void
382 Film::send_dcp_to_tms ()
383 {
384         JobManager::instance()->add(make_shared<UploadJob>(shared_from_this()));
385 }
386
387 shared_ptr<xmlpp::Document>
388 Film::metadata (bool with_content_paths) const
389 {
390         auto doc = make_shared<xmlpp::Document>();
391         auto root = doc->create_root_node ("Metadata");
392
393         root->add_child("Version")->add_child_text (raw_convert<string> (current_state_version));
394         auto last_write = root->add_child("LastWrittenBy");
395         last_write->add_child_text (dcpomatic_version);
396         last_write->set_attribute("git", dcpomatic_git_commit);
397         root->add_child("Name")->add_child_text (_name);
398         root->add_child("UseISDCFName")->add_child_text (_use_isdcf_name ? "1" : "0");
399
400         if (_dcp_content_type) {
401                 root->add_child("DCPContentType")->add_child_text (_dcp_content_type->isdcf_name ());
402         }
403
404         if (_container) {
405                 root->add_child("Container")->add_child_text (_container->id ());
406         }
407
408         root->add_child("Resolution")->add_child_text (resolution_to_string (_resolution));
409         root->add_child("J2KBandwidth")->add_child_text (raw_convert<string> (_j2k_bandwidth));
410         root->add_child("VideoFrameRate")->add_child_text (raw_convert<string> (_video_frame_rate));
411         root->add_child("AudioFrameRate")->add_child_text(raw_convert<string>(_audio_frame_rate));
412         root->add_child("ISDCFDate")->add_child_text (boost::gregorian::to_iso_string (_isdcf_date));
413         root->add_child("AudioChannels")->add_child_text (raw_convert<string> (_audio_channels));
414         root->add_child("ThreeD")->add_child_text (_three_d ? "1" : "0");
415         root->add_child("Sequence")->add_child_text (_sequence ? "1" : "0");
416         root->add_child("Interop")->add_child_text (_interop ? "1" : "0");
417         root->add_child("Encrypted")->add_child_text (_encrypted ? "1" : "0");
418         root->add_child("Key")->add_child_text (_key.hex ());
419         root->add_child("ContextID")->add_child_text (_context_id);
420         if (_audio_processor) {
421                 root->add_child("AudioProcessor")->add_child_text (_audio_processor->id ());
422         }
423         root->add_child("ReelType")->add_child_text (raw_convert<string> (static_cast<int> (_reel_type)));
424         root->add_child("ReelLength")->add_child_text (raw_convert<string> (_reel_length));
425         root->add_child("ReencodeJ2K")->add_child_text (_reencode_j2k ? "1" : "0");
426         root->add_child("UserExplicitVideoFrameRate")->add_child_text(_user_explicit_video_frame_rate ? "1" : "0");
427         for (map<dcp::Marker, DCPTime>::const_iterator i = _markers.begin(); i != _markers.end(); ++i) {
428                 auto m = root->add_child("Marker");
429                 m->set_attribute("Type", dcp::marker_to_string(i->first));
430                 m->add_child_text(raw_convert<string>(i->second.get()));
431         }
432         for (auto i: _ratings) {
433                 i.as_xml (root->add_child("Rating"));
434         }
435         for (auto i: _content_versions) {
436                 root->add_child("ContentVersion")->add_child_text(i);
437         }
438         root->add_child("NameLanguage")->add_child_text(_name_language.to_string());
439         if (_release_territory) {
440                 root->add_child("ReleaseTerritory")->add_child_text(_release_territory->subtag());
441         }
442         if (_sign_language_video_language) {
443                 root->add_child("SignLanguageVideoLanguage")->add_child_text(_sign_language_video_language->to_string());
444         }
445         root->add_child("VersionNumber")->add_child_text(raw_convert<string>(_version_number));
446         root->add_child("Status")->add_child_text(dcp::status_to_string(_status));
447         if (_chain) {
448                 root->add_child("Chain")->add_child_text(*_chain);
449         }
450         if (_distributor) {
451                 root->add_child("Distributor")->add_child_text(*_distributor);
452         }
453         if (_facility) {
454                 root->add_child("Facility")->add_child_text(*_facility);
455         }
456         if (_studio) {
457                 root->add_child("Studio")->add_child_text(*_studio);
458         }
459         root->add_child("TempVersion")->add_child_text(_temp_version ? "1" : "0");
460         root->add_child("PreRelease")->add_child_text(_pre_release ? "1" : "0");
461         root->add_child("RedBand")->add_child_text(_red_band ? "1" : "0");
462         root->add_child("TwoDVersionOfThreeD")->add_child_text(_two_d_version_of_three_d ? "1" : "0");
463         if (_luminance) {
464                 root->add_child("LuminanceValue")->add_child_text(raw_convert<string>(_luminance->value()));
465                 root->add_child("LuminanceUnit")->add_child_text(dcp::Luminance::unit_to_string(_luminance->unit()));
466         }
467         root->add_child("UserExplicitContainer")->add_child_text(_user_explicit_container ? "1" : "0");
468         root->add_child("UserExplicitResolution")->add_child_text(_user_explicit_resolution ? "1" : "0");
469         if (_audio_language) {
470                 root->add_child("AudioLanguage")->add_child_text(_audio_language->to_string());
471         }
472         _playlist->as_xml (root->add_child ("Playlist"), with_content_paths);
473
474         return doc;
475 }
476
477 void
478 Film::write_metadata (boost::filesystem::path path) const
479 {
480         metadata()->write_to_file_formatted(path.string());
481 }
482
483 /** Write state to our `metadata' file */
484 void
485 Film::write_metadata () const
486 {
487         DCPOMATIC_ASSERT (directory());
488         boost::filesystem::create_directories (directory().get());
489         metadata()->write_to_file_formatted(file(metadata_file).string());
490         _dirty = false;
491 }
492
493 /** Write a template from this film */
494 void
495 Film::write_template (boost::filesystem::path path) const
496 {
497         boost::filesystem::create_directories (path.parent_path());
498         shared_ptr<xmlpp::Document> doc = metadata (false);
499         metadata(false)->write_to_file_formatted(path.string());
500 }
501
502 /** Read state from our metadata file.
503  *  @return Notes about things that the user should know about, or empty.
504  */
505 list<string>
506 Film::read_metadata (optional<boost::filesystem::path> path)
507 {
508         if (!path) {
509                 if (boost::filesystem::exists (file ("metadata")) && !boost::filesystem::exists (file (metadata_file))) {
510                         throw runtime_error (_("This film was created with an older version of DCP-o-matic, and unfortunately it cannot be loaded into this version.  You will need to create a new Film, re-add your content and set it up again.  Sorry!"));
511                 }
512
513                 path = file (metadata_file);
514         }
515
516         if (!boost::filesystem::exists(*path)) {
517                 throw FileNotFoundError(*path);
518         }
519
520         cxml::Document f ("Metadata");
521         f.read_file (path.get ());
522
523         _state_version = f.number_child<int> ("Version");
524         if (_state_version > current_state_version) {
525                 throw runtime_error (_("This film was created with a newer version of DCP-o-matic, and it cannot be loaded into this version.  Sorry!"));
526         } else if (_state_version < current_state_version) {
527                 /* This is an older version; save a copy (if we haven't already) */
528                 auto const older = path->parent_path() / String::compose("metadata.%1.xml", _state_version);
529                 if (!boost::filesystem::is_regular_file(older)) {
530                         try {
531                                 boost::filesystem::copy_file(*path, older);
532                         } catch (...) {
533                                 /* Never mind; at least we tried */
534                         }
535                 }
536         }
537
538         _name = f.string_child ("Name");
539         if (_state_version >= 9) {
540                 _use_isdcf_name = f.bool_child ("UseISDCFName");
541                 _isdcf_date = boost::gregorian::from_undelimited_string (f.string_child ("ISDCFDate"));
542         } else {
543                 _use_isdcf_name = f.bool_child ("UseDCIName");
544                 _isdcf_date = boost::gregorian::from_undelimited_string (f.string_child ("DCIDate"));
545         }
546
547
548         {
549                 auto c = f.optional_string_child("DCPContentType");
550                 if (c) {
551                         _dcp_content_type = DCPContentType::from_isdcf_name (c.get ());
552                 }
553         }
554
555         {
556                 auto c = f.optional_string_child("Container");
557                 if (c) {
558                         _container = Ratio::from_id (c.get ());
559                 }
560         }
561
562         _resolution = string_to_resolution (f.string_child ("Resolution"));
563         _j2k_bandwidth = f.number_child<int> ("J2KBandwidth");
564         _video_frame_rate = f.number_child<int> ("VideoFrameRate");
565         _audio_frame_rate = f.optional_number_child<int>("AudioFrameRate").get_value_or(48000);
566         _encrypted = f.bool_child ("Encrypted");
567         _audio_channels = f.number_child<int> ("AudioChannels");
568         /* We used to allow odd numbers (and zero) channels, but it's just not worth
569            the pain.
570         */
571         if (_audio_channels == 0) {
572                 _audio_channels = 2;
573         } else if ((_audio_channels % 2) == 1) {
574                 _audio_channels++;
575         }
576
577         if (f.optional_bool_child("SequenceVideo")) {
578                 _sequence = f.bool_child("SequenceVideo");
579         } else {
580                 _sequence = f.bool_child("Sequence");
581         }
582
583         _three_d = f.bool_child ("ThreeD");
584         _interop = f.bool_child ("Interop");
585         _key = dcp::Key (f.string_child ("Key"));
586         _context_id = f.optional_string_child("ContextID").get_value_or (dcp::make_uuid ());
587
588         if (f.optional_string_child ("AudioProcessor")) {
589                 _audio_processor = AudioProcessor::from_id (f.string_child ("AudioProcessor"));
590         } else {
591                 _audio_processor = 0;
592         }
593
594         if (_audio_processor && !Config::instance()->show_experimental_audio_processors()) {
595                 auto ap = AudioProcessor::visible();
596                 if (find(ap.begin(), ap.end(), _audio_processor) == ap.end()) {
597                         Config::instance()->set_show_experimental_audio_processors(true);
598                 }
599         }
600
601         _reel_type = static_cast<ReelType> (f.optional_number_child<int>("ReelType").get_value_or (static_cast<int>(ReelType::SINGLE)));
602         _reel_length = f.optional_number_child<int64_t>("ReelLength").get_value_or (2000000000);
603         _reencode_j2k = f.optional_bool_child("ReencodeJ2K").get_value_or(false);
604         _user_explicit_video_frame_rate = f.optional_bool_child("UserExplicitVideoFrameRate").get_value_or(false);
605
606         for (auto i: f.node_children("Marker")) {
607                 _markers[dcp::marker_from_string(i->string_attribute("Type"))] = DCPTime(dcp::raw_convert<DCPTime::Type>(i->content()));
608         }
609
610         for (auto i: f.node_children("Rating")) {
611                 _ratings.push_back (dcp::Rating(i));
612         }
613
614         for (auto i: f.node_children("ContentVersion")) {
615                 _content_versions.push_back (i->content());
616         }
617
618         auto name_language = f.optional_string_child("NameLanguage");
619         if (name_language) {
620                 _name_language = dcp::LanguageTag (*name_language);
621         }
622         auto release_territory = f.optional_string_child("ReleaseTerritory");
623         if (release_territory) {
624                 _release_territory = dcp::LanguageTag::RegionSubtag (*release_territory);
625         }
626
627         auto sign_language_video_language = f.optional_string_child("SignLanguageVideoLanguage");
628         if (sign_language_video_language) {
629                 _sign_language_video_language = dcp::LanguageTag(*sign_language_video_language);
630         }
631
632         _version_number = f.optional_number_child<int>("VersionNumber").get_value_or(0);
633
634         auto status = f.optional_string_child("Status");
635         if (status) {
636                 _status = dcp::string_to_status (*status);
637         }
638
639         _chain = f.optional_string_child("Chain");
640         _distributor = f.optional_string_child("Distributor");
641         _facility = f.optional_string_child("Facility");
642         _studio = f.optional_string_child("Studio");
643         _temp_version = f.optional_bool_child("TempVersion").get_value_or(false);
644         _pre_release = f.optional_bool_child("PreRelease").get_value_or(false);
645         _red_band = f.optional_bool_child("RedBand").get_value_or(false);
646         _two_d_version_of_three_d = f.optional_bool_child("TwoDVersionOfThreeD").get_value_or(false);
647
648         auto value = f.optional_number_child<float>("LuminanceValue");
649         auto unit = f.optional_string_child("LuminanceUnit");
650         if (value && unit) {
651                 _luminance = dcp::Luminance (*value, dcp::Luminance::string_to_unit(*unit));
652         }
653
654         /* Disable guessing for files made in previous DCP-o-matic versions */
655         _user_explicit_container = f.optional_bool_child("UserExplicitContainer").get_value_or(true);
656         _user_explicit_resolution = f.optional_bool_child("UserExplicitResolution").get_value_or(true);
657
658         auto audio_language = f.optional_string_child("AudioLanguage");
659         if (audio_language) {
660                 _audio_language = dcp::LanguageTag(*audio_language);
661         }
662
663         /* Read the old ISDCFMetadata tag from 2.14.x metadata */
664         auto isdcf = f.optional_node_child("ISDCFMetadata");
665         if (isdcf) {
666                 if (auto territory = isdcf->optional_string_child("Territory")) {
667                         try {
668                                 _release_territory = dcp::LanguageTag::RegionSubtag(*territory);
669                         } catch (...) {
670                                 /* Invalid region subtag; just ignore it */
671                         }
672                 }
673                 if (auto audio_language = isdcf->optional_string_child("AudioLanguage")) {
674                         try {
675                                 _audio_language = dcp::LanguageTag(*audio_language);
676                         } catch (...) {
677                                 /* Invalid language tag; just ignore it */
678                         }
679                 }
680                 if (auto content_version = isdcf->optional_string_child("ContentVersion")) {
681                         _content_versions.push_back (*content_version);
682                 }
683                 if (auto rating = isdcf->optional_string_child("Rating")) {
684                         _ratings.push_back (dcp::Rating("", *rating));
685                 }
686                 if (auto mastered_luminance = isdcf->optional_number_child<float>("MasteredLuminance")) {
687                         if (*mastered_luminance > 0) {
688                                 _luminance = dcp::Luminance(*mastered_luminance, dcp::Luminance::Unit::FOOT_LAMBERT);
689                         }
690                 }
691                 _studio = isdcf->optional_string_child("Studio");
692                 _facility = isdcf->optional_string_child("Facility");
693                 _temp_version = isdcf->optional_bool_child("TempVersion").get_value_or("false");
694                 _pre_release = isdcf->optional_bool_child("PreRelease").get_value_or("false");
695                 _red_band = isdcf->optional_bool_child("RedBand").get_value_or("false");
696                 _two_d_version_of_three_d = isdcf->optional_bool_child("TwoDVersionOfThreeD").get_value_or("false");
697                 _chain = isdcf->optional_string_child("Chain");
698         }
699
700         list<string> notes;
701         _playlist->set_from_xml (shared_from_this(), f.node_child ("Playlist"), _state_version, notes);
702
703         /* Write backtraces to this film's directory, until another film is loaded */
704         if (_directory) {
705                 set_backtrace_file (file ("backtrace.txt"));
706         }
707
708         _dirty = false;
709         return notes;
710 }
711
712 /** Given a directory name, return its full path within the Film's directory.
713  *  @param d directory name within the Film's directory.
714  *  @param create true to create the directory (and its parents) if they do not exist.
715  */
716 boost::filesystem::path
717 Film::dir (boost::filesystem::path d, bool create) const
718 {
719         DCPOMATIC_ASSERT (_directory);
720
721         boost::filesystem::path p;
722         p /= _directory.get();
723         p /= d;
724
725         if (create) {
726                 boost::filesystem::create_directories (p);
727         }
728
729         return p;
730 }
731
732 /** Given a file or directory name, return its full path within the Film's directory.
733  *  Any required parent directories will be created.
734  */
735 boost::filesystem::path
736 Film::file (boost::filesystem::path f) const
737 {
738         DCPOMATIC_ASSERT (_directory);
739
740         boost::filesystem::path p;
741         p /= _directory.get();
742         p /= f;
743
744         boost::filesystem::create_directories (p.parent_path ());
745
746         return p;
747 }
748
749 list<int>
750 Film::mapped_audio_channels () const
751 {
752         list<int> mapped;
753
754         if (audio_processor ()) {
755                 /* Processors are mapped 1:1 to DCP outputs so we can work out mappings from there */
756                 for (int i = 0; i < audio_processor()->out_channels(); ++i) {
757                         mapped.push_back (i);
758                 }
759         } else {
760                 for (auto i: content()) {
761                         if (i->audio) {
762                                 auto c = i->audio->mapping().mapped_output_channels();
763                                 copy (c.begin(), c.end(), back_inserter(mapped));
764                         }
765                 }
766
767                 mapped.sort ();
768                 mapped.unique ();
769         }
770
771         return mapped;
772 }
773
774
775 pair<optional<dcp::LanguageTag>, vector<dcp::LanguageTag>>
776 Film::subtitle_languages () const
777 {
778         pair<optional<dcp::LanguageTag>, vector<dcp::LanguageTag>> result;
779         for (auto i: content()) {
780                 for (auto j: i->text) {
781                         if (j->use() && j->type() == TextType::OPEN_SUBTITLE && j->language()) {
782                                 if (j->language_is_additional()) {
783                                         result.second.push_back (j->language().get());
784                                 } else {
785                                         result.first = j->language().get();
786                                 }
787                         }
788                 }
789                 if (i->video && i->video->burnt_subtitle_language()) {
790                         result.first = i->video->burnt_subtitle_language();
791                 }
792         }
793
794         std::sort (result.second.begin(), result.second.end());
795         auto last = std::unique (result.second.begin(), result.second.end());
796         result.second.erase (last, result.second.end());
797         return result;
798 }
799
800
801 /** @return a ISDCF-compliant name for a DCP of this film */
802 string
803 Film::isdcf_name (bool if_created_now) const
804 {
805         string d;
806
807         auto raw_name = name ();
808
809         /* Split the raw name up into words */
810         vector<string> words;
811         split (words, raw_name, is_any_of (" _-"));
812
813         string fixed_name;
814
815         /* Add each word to fixed_name */
816         for (auto i: words) {
817                 string w = i;
818
819                 /* First letter is always capitalised */
820                 w[0] = toupper (w[0]);
821
822                 /* Count caps in w */
823                 size_t caps = 0;
824                 for (size_t j = 0; j < w.size(); ++j) {
825                         if (isupper (w[j])) {
826                                 ++caps;
827                         }
828                 }
829
830                 /* If w is all caps make the rest of it lower case, otherwise
831                    leave it alone.
832                 */
833                 if (caps == w.size ()) {
834                         for (size_t j = 1; j < w.size(); ++j) {
835                                 w[j] = tolower (w[j]);
836                         }
837                 }
838
839                 for (size_t j = 0; j < w.size(); ++j) {
840                         fixed_name += w[j];
841                 }
842         }
843
844         if (fixed_name.length() > 14) {
845                 fixed_name = fixed_name.substr (0, 14);
846         }
847
848         d += fixed_name;
849
850         if (dcp_content_type()) {
851                 d += "_" + dcp_content_type()->isdcf_name();
852                 string version = "1";
853                 if (_interop) {
854                         if (!_content_versions.empty()) {
855                                 auto cv = _content_versions[0];
856                                 if (!cv.empty() && std::all_of(cv.begin(), cv.end(), isdigit)) {
857                                         version = cv;
858                                 }
859                         }
860                 } else {
861                         version = dcp::raw_convert<string>(_version_number);
862                 }
863                 d += "-" + version;
864         }
865
866         if (_temp_version) {
867                 d += "-Temp";
868         }
869
870         if (_pre_release) {
871                 d += "-Pre";
872         }
873
874         if (_red_band) {
875                 d += "-RedBand";
876         }
877
878         if (_chain && !_chain->empty()) {
879                 d += "-" + *_chain;
880         }
881
882         if (three_d ()) {
883                 d += "-3D";
884         }
885
886         if (_two_d_version_of_three_d) {
887                 d += "-2D";
888         }
889
890         if (_luminance) {
891                 auto fl = _luminance->value_in_foot_lamberts();
892                 char buffer[64];
893                 snprintf (buffer, sizeof(buffer), "%.1f", fl);
894                 d += String::compose("-%1fl", buffer);
895         }
896
897         if (video_frame_rate() != 24) {
898                 d += "-" + raw_convert<string>(video_frame_rate());
899         }
900
901         if (container()) {
902                 d += "_" + container()->isdcf_name();
903         }
904
905         /* XXX: this uses the first bit of content only */
906
907         /* Interior aspect ratio.  The standard says we don't do this for trailers, for some strange reason */
908         if (dcp_content_type() && dcp_content_type()->libdcp_kind() != dcp::ContentKind::TRAILER) {
909                 auto cl = content();
910                 auto first_video = std::find_if(cl.begin(), cl.end(), [](shared_ptr<Content> c) { return static_cast<bool>(c->video); });
911                 if (first_video != cl.end()) {
912                         auto first_ratio = lrintf((*first_video)->video->scaled_size(frame_size()).ratio() * 100);
913                         auto container_ratio = lrintf(container()->ratio() * 100);
914                         if (first_ratio != container_ratio) {
915                                 d += "-" + dcp::raw_convert<string>(first_ratio);
916                         }
917                 }
918         }
919
920         auto entry_for_language = [](dcp::LanguageTag const& tag) {
921                 /* Look up what we should be using for this tag in the DCNC name */
922                 for (auto const& dcnc: dcp::dcnc_tags()) {
923                         if (tag.to_string() == dcnc.first) {
924                                 return dcnc.second;
925                         }
926                 }
927                 /* Fallback to the language subtag, if there is one */
928                 return tag.language() ? tag.language()->subtag() : "XX";
929         };
930
931         auto audio_language = _audio_language ? entry_for_language(*_audio_language) : "XX";
932
933         d += "_" + to_upper (audio_language);
934
935         /* I'm not clear on the precise details of the convention for CCAP labelling;
936            for now I'm just appending -CCAP if we have any closed captions.
937         */
938
939         auto burnt_in = true;
940         auto ccap = false;
941         for (auto i: content()) {
942                 for (auto j: i->text) {
943                         if (j->type() == TextType::OPEN_SUBTITLE && j->use() && !j->burn()) {
944                                 burnt_in = false;
945                         } else if (j->type() == TextType::CLOSED_CAPTION && j->use()) {
946                                 ccap = true;
947                         }
948                 }
949         }
950
951         auto sub_langs = subtitle_languages();
952         if (sub_langs.first && sub_langs.first->language()) {
953                 auto lang = entry_for_language(*sub_langs.first);
954                 if (burnt_in) {
955                         transform (lang.begin(), lang.end(), lang.begin(), ::tolower);
956                 } else {
957                         lang = to_upper (lang);
958                 }
959
960                 d += "-" + lang;
961                 if (ccap) {
962                         d += "-CCAP";
963                 }
964         } else {
965                 /* No subtitles */
966                 d += "-XX";
967         }
968
969         if (_release_territory) {
970                 auto territory = _release_territory->subtag();
971                 d += "_" + to_upper (territory);
972                 if (_ratings.empty ()) {
973                         d += "-NR";
974                 } else {
975                         d += "-" + _ratings[0].label;
976                 }
977         }
978
979         /* Count mapped audio channels */
980
981         auto mapped = mapped_audio_channels ();
982
983         auto ch = audio_channel_types (mapped, audio_channels());
984         if (!ch.first && !ch.second) {
985                 d += "_MOS";
986         } else if (ch.first) {
987                 d += String::compose("_%1%2", ch.first, ch.second);
988         }
989
990         if (audio_channels() > static_cast<int>(dcp::Channel::HI) && find(mapped.begin(), mapped.end(), static_cast<int>(dcp::Channel::HI)) != mapped.end()) {
991                 d += "-HI";
992         }
993         if (audio_channels() > static_cast<int>(dcp::Channel::VI) && find(mapped.begin(), mapped.end(), static_cast<int>(dcp::Channel::VI)) != mapped.end()) {
994                 d += "-VI";
995         }
996
997         d += "_" + resolution_to_string (_resolution);
998
999         if (_studio && _studio->length() >= 2) {
1000                 d += "_" + to_upper (_studio->substr(0, 4));
1001         }
1002
1003         if (if_created_now) {
1004                 d += "_" + boost::gregorian::to_iso_string (boost::gregorian::day_clock::local_day ());
1005         } else {
1006                 d += "_" + boost::gregorian::to_iso_string (_isdcf_date);
1007         }
1008
1009         if (_facility && _facility->length() >= 3) {
1010                 d += "_" + to_upper(_facility->substr(0, 3));
1011         }
1012
1013         if (_interop) {
1014                 d += "_IOP";
1015         } else {
1016                 d += "_SMPTE";
1017         }
1018
1019         if (three_d ()) {
1020                 d += "-3D";
1021         }
1022
1023         auto vf = false;
1024         for (auto i: content()) {
1025                 auto dc = dynamic_pointer_cast<const DCPContent>(i);
1026                 if (!dc) {
1027                         continue;
1028                 }
1029
1030                 bool any_text = false;
1031                 for (int i = 0; i < static_cast<int>(TextType::COUNT); ++i) {
1032                         if (dc->reference_text(static_cast<TextType>(i))) {
1033                                 any_text = true;
1034                         }
1035                 }
1036                 if (dc->reference_video() || dc->reference_audio() || any_text) {
1037                         vf = true;
1038                 }
1039         }
1040
1041         if (vf) {
1042                 d += "_VF";
1043         } else {
1044                 d += "_OV";
1045         }
1046
1047         return d;
1048 }
1049
1050 /** @return name to give the DCP */
1051 string
1052 Film::dcp_name (bool if_created_now) const
1053 {
1054         string unfiltered;
1055         if (use_isdcf_name()) {
1056                 return careful_string_filter (isdcf_name (if_created_now));
1057         }
1058
1059         return careful_string_filter (name ());
1060 }
1061
1062 void
1063 Film::set_directory (boost::filesystem::path d)
1064 {
1065         _directory = d;
1066         _dirty = true;
1067 }
1068
1069 void
1070 Film::set_name (string n)
1071 {
1072         FilmChangeSignaller ch (this, Property::NAME);
1073         _name = n;
1074 }
1075
1076 void
1077 Film::set_use_isdcf_name (bool u)
1078 {
1079         FilmChangeSignaller ch (this, Property::USE_ISDCF_NAME);
1080         _use_isdcf_name = u;
1081 }
1082
1083 void
1084 Film::set_dcp_content_type (DCPContentType const * t)
1085 {
1086         FilmChangeSignaller ch (this, Property::DCP_CONTENT_TYPE);
1087         _dcp_content_type = t;
1088 }
1089
1090
1091 /** @param explicit_user true if this is being set because of
1092  *  a direct user request, false if it is being done because
1093  *  DCP-o-matic is guessing the best container to use.
1094  */
1095 void
1096 Film::set_container (Ratio const * c, bool explicit_user)
1097 {
1098         FilmChangeSignaller ch (this, Property::CONTAINER);
1099         _container = c;
1100
1101         if (explicit_user) {
1102                 _user_explicit_container = true;
1103         }
1104 }
1105
1106
1107 /** @param explicit_user true if this is being set because of
1108  *  a direct user request, false if it is being done because
1109  *  DCP-o-matic is guessing the best resolution to use.
1110  */
1111 void
1112 Film::set_resolution (Resolution r, bool explicit_user)
1113 {
1114         FilmChangeSignaller ch (this, Property::RESOLUTION);
1115         _resolution = r;
1116
1117         if (explicit_user) {
1118                 _user_explicit_resolution = true;
1119         }
1120 }
1121
1122
1123 void
1124 Film::set_j2k_bandwidth (int b)
1125 {
1126         FilmChangeSignaller ch (this, Property::J2K_BANDWIDTH);
1127         _j2k_bandwidth = b;
1128 }
1129
1130 /** @param f New frame rate.
1131  *  @param user_explicit true if this comes from a direct user instruction, false if it is from
1132  *  DCP-o-matic being helpful.
1133  */
1134 void
1135 Film::set_video_frame_rate (int f, bool user_explicit)
1136 {
1137         FilmChangeSignaller ch (this, Property::VIDEO_FRAME_RATE);
1138         _video_frame_rate = f;
1139         if (user_explicit) {
1140                 _user_explicit_video_frame_rate = true;
1141         }
1142 }
1143
1144 void
1145 Film::set_audio_channels (int c)
1146 {
1147         FilmChangeSignaller ch (this, Property::AUDIO_CHANNELS);
1148         _audio_channels = c;
1149 }
1150
1151 void
1152 Film::set_three_d (bool t)
1153 {
1154         FilmChangeSignaller ch (this, Property::THREE_D);
1155         _three_d = t;
1156
1157         if (_three_d && _two_d_version_of_three_d) {
1158                 set_two_d_version_of_three_d (false);
1159         }
1160 }
1161
1162 void
1163 Film::set_interop (bool i)
1164 {
1165         FilmChangeSignaller ch (this, Property::INTEROP);
1166         _interop = i;
1167 }
1168
1169 void
1170 Film::set_audio_processor (AudioProcessor const * processor)
1171 {
1172         FilmChangeSignaller ch1 (this, Property::AUDIO_PROCESSOR);
1173         FilmChangeSignaller ch2 (this, Property::AUDIO_CHANNELS);
1174         _audio_processor = processor;
1175 }
1176
1177 void
1178 Film::set_reel_type (ReelType t)
1179 {
1180         FilmChangeSignaller ch (this, Property::REEL_TYPE);
1181         _reel_type = t;
1182 }
1183
1184 /** @param r Desired reel length in bytes */
1185 void
1186 Film::set_reel_length (int64_t r)
1187 {
1188         FilmChangeSignaller ch (this, Property::REEL_LENGTH);
1189         _reel_length = r;
1190 }
1191
1192 void
1193 Film::set_reencode_j2k (bool r)
1194 {
1195         FilmChangeSignaller ch (this, Property::REENCODE_J2K);
1196         _reencode_j2k = r;
1197 }
1198
1199 void
1200 Film::signal_change (ChangeType type, int p)
1201 {
1202         signal_change (type, static_cast<Property>(p));
1203 }
1204
1205 void
1206 Film::signal_change (ChangeType type, Property p)
1207 {
1208         if (type == ChangeType::DONE) {
1209                 _dirty = true;
1210
1211                 if (p == Property::CONTENT) {
1212                         if (!_user_explicit_video_frame_rate) {
1213                                 set_video_frame_rate (best_video_frame_rate());
1214                         }
1215                 }
1216
1217                 emit (boost::bind (boost::ref (Change), type, p));
1218
1219                 if (p == Property::VIDEO_FRAME_RATE || p == Property::SEQUENCE) {
1220                         /* We want to call Playlist::maybe_sequence but this must happen after the
1221                            main signal emission (since the butler will see that emission and un-suspend itself).
1222                         */
1223                         emit (boost::bind(&Playlist::maybe_sequence, _playlist.get(), shared_from_this()));
1224                 }
1225         } else {
1226                 Change (type, p);
1227         }
1228 }
1229
1230 void
1231 Film::set_isdcf_date_today ()
1232 {
1233         _isdcf_date = boost::gregorian::day_clock::local_day ();
1234 }
1235
1236
1237 boost::filesystem::path
1238 Film::j2c_path (int reel, Frame frame, Eyes eyes, bool tmp) const
1239 {
1240         boost::filesystem::path p;
1241         p /= "j2c";
1242         p /= video_identifier ();
1243
1244         char buffer[256];
1245         snprintf(buffer, sizeof(buffer), "%08d_%08" PRId64, reel, frame);
1246         string s (buffer);
1247
1248         if (eyes == Eyes::LEFT) {
1249                 s += ".L";
1250         } else if (eyes == Eyes::RIGHT) {
1251                 s += ".R";
1252         }
1253
1254         s += ".j2c";
1255
1256         if (tmp) {
1257                 s += ".tmp";
1258         }
1259
1260         p /= s;
1261         return file (p);
1262 }
1263
1264 static
1265 bool
1266 cpl_summary_compare (CPLSummary const & a, CPLSummary const & b)
1267 {
1268         return a.last_write_time > b.last_write_time;
1269 }
1270
1271 /** Find all the DCPs in our directory that can be dcp::DCP::read() and return details of their CPLs.
1272  *  The list will be returned in reverse order of timestamp (i.e. most recent first).
1273  */
1274 vector<CPLSummary>
1275 Film::cpls () const
1276 {
1277         if (!directory ()) {
1278                 return vector<CPLSummary> ();
1279         }
1280
1281         vector<CPLSummary> out;
1282
1283         auto const dir = directory().get();
1284         for (auto i: boost::filesystem::directory_iterator(dir)) {
1285                 if (
1286                         boost::filesystem::is_directory (i) &&
1287                         i.path().leaf() != "j2c" && i.path().leaf() != "video" && i.path().leaf() != "info" && i.path().leaf() != "analysis"
1288                         ) {
1289
1290                         try {
1291                                 out.push_back (CPLSummary(i));
1292                         } catch (...) {
1293
1294                         }
1295                 }
1296         }
1297
1298         sort (out.begin(), out.end(), cpl_summary_compare);
1299
1300         return out;
1301 }
1302
1303 void
1304 Film::set_encrypted (bool e)
1305 {
1306         FilmChangeSignaller ch (this, Property::ENCRYPTED);
1307         _encrypted = e;
1308 }
1309
1310 ContentList
1311 Film::content () const
1312 {
1313         return _playlist->content ();
1314 }
1315
1316 /** @param content Content to add.
1317  *  @param disable_audio_analysis true to never do automatic audio analysis, even if it is enabled in configuration.
1318  */
1319 void
1320 Film::examine_and_add_content (shared_ptr<Content> content, bool disable_audio_analysis)
1321 {
1322         if (dynamic_pointer_cast<FFmpegContent> (content) && _directory) {
1323                 run_ffprobe (content->path(0), file("ffprobe.log"));
1324         }
1325
1326         auto j = make_shared<ExamineContentJob>(shared_from_this(), content);
1327
1328         _job_connections.push_back (
1329                 j->Finished.connect (bind (&Film::maybe_add_content, this, weak_ptr<Job>(j), weak_ptr<Content>(content), disable_audio_analysis))
1330                 );
1331
1332         JobManager::instance()->add (j);
1333 }
1334
1335 void
1336 Film::maybe_add_content (weak_ptr<Job> j, weak_ptr<Content> c, bool disable_audio_analysis)
1337 {
1338         auto job = j.lock ();
1339         if (!job || !job->finished_ok ()) {
1340                 return;
1341         }
1342
1343         auto content = c.lock ();
1344         if (!content) {
1345                 return;
1346         }
1347
1348         add_content (content);
1349
1350         if (Config::instance()->automatic_audio_analysis() && content->audio && !disable_audio_analysis) {
1351                 auto playlist = make_shared<Playlist>();
1352                 playlist->add (shared_from_this(), content);
1353                 boost::signals2::connection c;
1354                 JobManager::instance()->analyse_audio (
1355                         shared_from_this(), playlist, false, c, bind (&Film::audio_analysis_finished, this)
1356                         );
1357                 _audio_analysis_connections.push_back (c);
1358         }
1359 }
1360
1361 void
1362 Film::add_content (shared_ptr<Content> c)
1363 {
1364         /* Add {video,subtitle} content after any existing {video,subtitle} content */
1365         if (c->video) {
1366                 c->set_position (shared_from_this(), _playlist->video_end(shared_from_this()));
1367         } else if (!c->text.empty()) {
1368                 c->set_position (shared_from_this(), _playlist->text_end(shared_from_this()));
1369         }
1370
1371         if (_template_film) {
1372                 /* Take settings from the first piece of content of c's type in _template */
1373                 for (auto i: _template_film->content()) {
1374                         c->take_settings_from (i);
1375                 }
1376         }
1377
1378         _playlist->add (shared_from_this(), c);
1379
1380         maybe_set_container_and_resolution ();
1381         if (c->atmos) {
1382                 set_audio_channels (14);
1383                 set_interop (false);
1384         }
1385 }
1386
1387
1388 void
1389 Film::maybe_set_container_and_resolution ()
1390 {
1391         /* Get the only piece of video content, if there is only one */
1392         shared_ptr<VideoContent> video;
1393         for (auto i: _playlist->content()) {
1394                 if (i->video) {
1395                         if (!video) {
1396                                 video = i->video;
1397                         } else {
1398                                 video.reset ();
1399                         }
1400                 }
1401         }
1402
1403         if (video) {
1404                 /* This is the only piece of video content in this Film.  Use it to make a guess for
1405                  * DCP container size and resolution, unless the user has already explicitly set these
1406                  * things.
1407                  */
1408                 if (!_user_explicit_container) {
1409                         if (video->size().ratio() > 2.3) {
1410                                 set_container (Ratio::from_id("239"), false);
1411                         } else {
1412                                 set_container (Ratio::from_id("185"), false);
1413                         }
1414                 }
1415
1416                 if (!_user_explicit_resolution) {
1417                         if (video->size_after_crop().width > 2048 || video->size_after_crop().height > 1080) {
1418                                 set_resolution (Resolution::FOUR_K, false);
1419                         } else {
1420                                 set_resolution (Resolution::TWO_K, false);
1421                         }
1422                 }
1423         }
1424 }
1425
1426 void
1427 Film::remove_content (shared_ptr<Content> c)
1428 {
1429         _playlist->remove (c);
1430         maybe_set_container_and_resolution ();
1431 }
1432
1433 void
1434 Film::move_content_earlier (shared_ptr<Content> c)
1435 {
1436         _playlist->move_earlier (shared_from_this(), c);
1437 }
1438
1439 void
1440 Film::move_content_later (shared_ptr<Content> c)
1441 {
1442         _playlist->move_later (shared_from_this(), c);
1443 }
1444
1445 /** @return length of the film from time 0 to the last thing on the playlist,
1446  *  with a minimum length of 1 second.
1447  */
1448 DCPTime
1449 Film::length () const
1450 {
1451         return max(DCPTime::from_seconds(1), _playlist->length(shared_from_this()).ceil(video_frame_rate()));
1452 }
1453
1454 int
1455 Film::best_video_frame_rate () const
1456 {
1457         /* Don't default to anything above 30fps (make the user select that explicitly) */
1458         auto best = _playlist->best_video_frame_rate ();
1459         if (best > 30) {
1460                 best /= 2;
1461         }
1462         return best;
1463 }
1464
1465 FrameRateChange
1466 Film::active_frame_rate_change (DCPTime t) const
1467 {
1468         return _playlist->active_frame_rate_change (t, video_frame_rate ());
1469 }
1470
1471 void
1472 Film::playlist_content_change (ChangeType type, weak_ptr<Content> c, int p, bool frequent)
1473 {
1474         if (p == ContentProperty::VIDEO_FRAME_RATE) {
1475                 signal_change (type, Property::CONTENT);
1476         } else if (p == AudioContentProperty::STREAMS) {
1477                 signal_change (type, Property::NAME);
1478         }
1479
1480         if (type == ChangeType::DONE) {
1481                 emit (boost::bind (boost::ref (ContentChange), type, c, p, frequent));
1482                 if (!frequent) {
1483                         check_settings_consistency ();
1484                 }
1485         } else {
1486                 ContentChange (type, c, p, frequent);
1487         }
1488
1489         _dirty = true;
1490 }
1491
1492 void
1493 Film::playlist_length_change ()
1494 {
1495         LengthChange ();
1496 }
1497
1498 void
1499 Film::playlist_change (ChangeType type)
1500 {
1501         signal_change (type, Property::CONTENT);
1502         signal_change (type, Property::NAME);
1503
1504         if (type == ChangeType::DONE) {
1505                 check_settings_consistency ();
1506         }
1507
1508         _dirty = true;
1509 }
1510
1511 /** Check for (and if necessary fix) impossible settings combinations, like
1512  *  video set to being referenced when it can't be.
1513  */
1514 void
1515 Film::check_settings_consistency ()
1516 {
1517         optional<int> atmos_rate;
1518         for (auto i: content()) {
1519
1520                 if (i->atmos) {
1521                         int rate = lrintf (i->atmos->edit_rate().as_float());
1522                         if (atmos_rate && *atmos_rate != rate) {
1523                                 Message (_("You have more than one piece of Atmos content, and they do not have the same frame rate.  You must remove some Atmos content."));
1524                         } else if (!atmos_rate && rate != video_frame_rate()) {
1525                                 atmos_rate = rate;
1526                                 set_video_frame_rate (rate, false);
1527                                 Message (_("DCP-o-matic had to change your settings so that the film's frame rate is the same as that of your Atmos content."));
1528                         }
1529                 }
1530         }
1531
1532         bool change_made = false;
1533         for (auto i: content()) {
1534                 auto d = dynamic_pointer_cast<DCPContent>(i);
1535                 if (!d) {
1536                         continue;
1537                 }
1538
1539                 string why_not;
1540                 if (d->reference_video() && !d->can_reference_video(shared_from_this(), why_not)) {
1541                         d->set_reference_video(false);
1542                         change_made = true;
1543                 }
1544                 if (d->reference_audio() && !d->can_reference_audio(shared_from_this(), why_not)) {
1545                         d->set_reference_audio(false);
1546                         change_made = true;
1547                 }
1548                 if (d->reference_text(TextType::OPEN_SUBTITLE) && !d->can_reference_text(shared_from_this(), TextType::OPEN_SUBTITLE, why_not)) {
1549                         d->set_reference_text(TextType::OPEN_SUBTITLE, false);
1550                         change_made = true;
1551                 }
1552                 if (d->reference_text(TextType::CLOSED_CAPTION) && !d->can_reference_text(shared_from_this(), TextType::CLOSED_CAPTION, why_not)) {
1553                         d->set_reference_text(TextType::CLOSED_CAPTION, false);
1554                         change_made = true;
1555                 }
1556         }
1557
1558         if (change_made) {
1559                 Message (_("DCP-o-matic had to change your settings for referring to DCPs as OV.  Please review those settings to make sure they are what you want."));
1560         }
1561 }
1562
1563 void
1564 Film::playlist_order_changed ()
1565 {
1566         /* XXX: missing PENDING */
1567         signal_change (ChangeType::DONE, Property::CONTENT_ORDER);
1568 }
1569
1570
1571 void
1572 Film::set_sequence (bool s)
1573 {
1574         if (s == _sequence) {
1575                 return;
1576         }
1577
1578         FilmChangeSignaller cc (this, Property::SEQUENCE);
1579         _sequence = s;
1580         _playlist->set_sequence (s);
1581 }
1582
1583 /** @return Size of the largest possible image in whatever resolution we are using */
1584 dcp::Size
1585 Film::full_frame () const
1586 {
1587         switch (_resolution) {
1588         case Resolution::TWO_K:
1589                 return dcp::Size (2048, 1080);
1590         case Resolution::FOUR_K:
1591                 return dcp::Size (4096, 2160);
1592         }
1593
1594         DCPOMATIC_ASSERT (false);
1595         return dcp::Size ();
1596 }
1597
1598 /** @return Size of the frame */
1599 dcp::Size
1600 Film::frame_size () const
1601 {
1602         return fit_ratio_within (container()->ratio(), full_frame ());
1603 }
1604
1605
1606 /** @return Area of Film::frame_size() that contains picture rather than pillar/letterboxing */
1607 dcp::Size
1608 Film::active_area () const
1609 {
1610         auto const frame = frame_size ();
1611         dcp::Size active;
1612
1613         for (auto i: content()) {
1614                 if (i->video) {
1615                         dcp::Size s = i->video->scaled_size (frame);
1616                         active.width = max(active.width, s.width);
1617                         active.height = max(active.height, s.height);
1618                 }
1619         }
1620
1621         return active;
1622 }
1623
1624
1625 /** @param recipient KDM recipient certificate.
1626  *  @param trusted_devices Certificate thumbprints of other trusted devices (can be empty).
1627  *  @param cpl_file CPL filename.
1628  *  @param from KDM from time expressed as a local time with an offset from UTC.
1629  *  @param until KDM to time expressed as a local time with an offset from UTC.
1630  *  @param formulation KDM formulation to use.
1631  *  @param disable_forensic_marking_picture true to disable forensic marking of picture.
1632  *  @param disable_forensic_marking_audio if not set, don't disable forensic marking of audio.  If set to 0,
1633  *  disable all forensic marking; if set above 0, disable forensic marking above that channel.
1634  */
1635 dcp::EncryptedKDM
1636 Film::make_kdm (
1637         dcp::Certificate recipient,
1638         vector<string> trusted_devices,
1639         boost::filesystem::path cpl_file,
1640         dcp::LocalTime from,
1641         dcp::LocalTime until,
1642         dcp::Formulation formulation,
1643         bool disable_forensic_marking_picture,
1644         optional<int> disable_forensic_marking_audio
1645         ) const
1646 {
1647         if (!_encrypted) {
1648                 throw runtime_error (_("Cannot make a KDM as this project is not encrypted."));
1649         }
1650
1651         auto cpl = make_shared<dcp::CPL>(cpl_file);
1652         auto signer = Config::instance()->signer_chain();
1653         if (!signer->valid ()) {
1654                 throw InvalidSignerError ();
1655         }
1656
1657         /* Find keys that have been added to imported, encrypted DCP content */
1658         list<dcp::DecryptedKDMKey> imported_keys;
1659         for (auto i: content()) {
1660                 auto d = dynamic_pointer_cast<DCPContent> (i);
1661                 if (d && d->kdm()) {
1662                         dcp::DecryptedKDM kdm (d->kdm().get(), Config::instance()->decryption_chain()->key().get());
1663                         auto keys = kdm.keys ();
1664                         copy (keys.begin(), keys.end(), back_inserter (imported_keys));
1665                 }
1666         }
1667
1668         map<shared_ptr<const dcp::ReelFileAsset>, dcp::Key> keys;
1669
1670         for (auto i: cpl->reel_file_assets()) {
1671                 if (!i->encrypted()) {
1672                         continue;
1673                 }
1674
1675                 /* Get any imported key for this ID */
1676                 bool done = false;
1677                 for (auto j: imported_keys) {
1678                         if (j.id() == i->key_id().get()) {
1679                                 LOG_GENERAL ("Using imported key for %1", i->key_id().get());
1680                                 keys[i] = j.key();
1681                                 done = true;
1682                         }
1683                 }
1684
1685                 if (!done) {
1686                         /* No imported key; it must be an asset that we encrypted */
1687                         LOG_GENERAL ("Using our own key for %1", i->key_id().get());
1688                         keys[i] = key();
1689                 }
1690         }
1691
1692         return dcp::DecryptedKDM (
1693                 cpl->id(), keys, from, until, cpl->content_title_text(), cpl->content_title_text(), dcp::LocalTime().as_string()
1694                 ).encrypt (signer, recipient, trusted_devices, formulation, disable_forensic_marking_picture, disable_forensic_marking_audio);
1695 }
1696
1697
1698 /** @return The approximate disk space required to encode a DCP of this film with the
1699  *  current settings, in bytes.
1700  */
1701 uint64_t
1702 Film::required_disk_space () const
1703 {
1704         return _playlist->required_disk_space (shared_from_this(), j2k_bandwidth(), audio_channels(), audio_frame_rate());
1705 }
1706
1707 /** This method checks the disk that the Film is on and tries to decide whether or not
1708  *  there will be enough space to make a DCP for it.  If so, true is returned; if not,
1709  *  false is returned and required and available are filled in with the amount of disk space
1710  *  required and available respectively (in GB).
1711  *
1712  *  Note: the decision made by this method isn't, of course, 100% reliable.
1713  */
1714 bool
1715 Film::should_be_enough_disk_space (double& required, double& available, bool& can_hard_link) const
1716 {
1717         /* Create a test file and see if we can hard-link it */
1718         boost::filesystem::path test = internal_video_asset_dir() / "test";
1719         boost::filesystem::path test2 = internal_video_asset_dir() / "test2";
1720         can_hard_link = true;
1721         auto f = fopen_boost (test, "w");
1722         if (f) {
1723                 fclose (f);
1724                 boost::system::error_code ec;
1725                 boost::filesystem::create_hard_link (test, test2, ec);
1726                 if (ec) {
1727                         can_hard_link = false;
1728                 }
1729                 boost::filesystem::remove (test);
1730                 boost::filesystem::remove (test2);
1731         }
1732
1733         auto s = boost::filesystem::space (internal_video_asset_dir ());
1734         required = double (required_disk_space ()) / 1073741824.0f;
1735         if (!can_hard_link) {
1736                 required *= 2;
1737         }
1738         available = double (s.available) / 1073741824.0f;
1739         return (available - required) > 1;
1740 }
1741
1742 /** @return The names of the channels that audio contents' outputs are passed into;
1743  *  this is either the DCP or a AudioProcessor.
1744  */
1745 vector<NamedChannel>
1746 Film::audio_output_names () const
1747 {
1748         if (audio_processor ()) {
1749                 return audio_processor()->input_names ();
1750         }
1751
1752         DCPOMATIC_ASSERT (MAX_DCP_AUDIO_CHANNELS == 16);
1753
1754         vector<NamedChannel> n;
1755
1756         for (int i = 0; i < audio_channels(); ++i) {
1757                 if (i != 8 && i != 9 && i != 15) {
1758                         n.push_back (NamedChannel(short_audio_channel_name(i), i));
1759                 }
1760         }
1761
1762         return n;
1763 }
1764
1765 void
1766 Film::repeat_content (ContentList c, int n)
1767 {
1768         _playlist->repeat (shared_from_this(), c, n);
1769 }
1770
1771 void
1772 Film::remove_content (ContentList c)
1773 {
1774         _playlist->remove (c);
1775 }
1776
1777 void
1778 Film::audio_analysis_finished ()
1779 {
1780         /* XXX */
1781 }
1782
1783 list<DCPTimePeriod>
1784 Film::reels () const
1785 {
1786         list<DCPTimePeriod> p;
1787         auto const len = length();
1788
1789         switch (reel_type ()) {
1790         case ReelType::SINGLE:
1791                 p.push_back (DCPTimePeriod (DCPTime (), len));
1792                 break;
1793         case ReelType::BY_VIDEO_CONTENT:
1794         {
1795                 /* Collect all reel boundaries */
1796                 list<DCPTime> split_points;
1797                 split_points.push_back (DCPTime());
1798                 split_points.push_back (len);
1799                 for (auto c: content()) {
1800                         if (c->video) {
1801                                 for (auto t: c->reel_split_points(shared_from_this())) {
1802                                         split_points.push_back (t);
1803                                 }
1804                                 split_points.push_back (c->end(shared_from_this()));
1805                         }
1806                 }
1807
1808                 split_points.sort ();
1809                 split_points.unique ();
1810
1811                 /* Make them into periods, coalescing any that are less than 1 second long */
1812                 optional<DCPTime> last;
1813                 for (auto t: split_points) {
1814                         if (last && (t - *last) >= DCPTime::from_seconds(1)) {
1815                                 /* Period from *last to t is long enough; use it and start a new one */
1816                                 p.push_back (DCPTimePeriod(*last, t));
1817                                 last = t;
1818                         } else if (!last) {
1819                                 /* That was the first time, so start a new period */
1820                                 last = t;
1821                         }
1822                 }
1823
1824                 if (!p.empty()) {
1825                         p.back().to = split_points.back();
1826                 }
1827                 break;
1828         }
1829         case ReelType::BY_LENGTH:
1830         {
1831                 DCPTime current;
1832                 /* Integer-divide reel length by the size of one frame to give the number of frames per reel,
1833                  * making sure we don't go less than 1s long.
1834                  */
1835                 Frame const reel_in_frames = max(_reel_length / ((j2k_bandwidth() / video_frame_rate()) / 8), static_cast<Frame>(video_frame_rate()));
1836                 while (current < len) {
1837                         DCPTime end = min (len, current + DCPTime::from_frames (reel_in_frames, video_frame_rate ()));
1838                         p.push_back (DCPTimePeriod (current, end));
1839                         current = end;
1840                 }
1841                 break;
1842         }
1843         }
1844
1845         return p;
1846 }
1847
1848 /** @param period A period within the DCP
1849  *  @return Name of the content which most contributes to the given period.
1850  */
1851 string
1852 Film::content_summary (DCPTimePeriod period) const
1853 {
1854         return _playlist->content_summary (shared_from_this(), period);
1855 }
1856
1857 void
1858 Film::use_template (string name)
1859 {
1860         _template_film.reset (new Film (optional<boost::filesystem::path>()));
1861         _template_film->read_metadata (Config::instance()->template_read_path(name));
1862         _use_isdcf_name = _template_film->_use_isdcf_name;
1863         _dcp_content_type = _template_film->_dcp_content_type;
1864         _container = _template_film->_container;
1865         _resolution = _template_film->_resolution;
1866         _j2k_bandwidth = _template_film->_j2k_bandwidth;
1867         _video_frame_rate = _template_film->_video_frame_rate;
1868         _encrypted = _template_film->_encrypted;
1869         _audio_channels = _template_film->_audio_channels;
1870         _sequence = _template_film->_sequence;
1871         _three_d = _template_film->_three_d;
1872         _interop = _template_film->_interop;
1873         _audio_processor = _template_film->_audio_processor;
1874         _reel_type = _template_film->_reel_type;
1875         _reel_length = _template_film->_reel_length;
1876 }
1877
1878 pair<double, double>
1879 Film::speed_up_range (int dcp_frame_rate) const
1880 {
1881         return _playlist->speed_up_range (dcp_frame_rate);
1882 }
1883
1884 void
1885 Film::copy_from (shared_ptr<const Film> film)
1886 {
1887         read_metadata (film->file (metadata_file));
1888 }
1889
1890 bool
1891 Film::references_dcp_video () const
1892 {
1893         for (auto i: _playlist->content()) {
1894                 auto d = dynamic_pointer_cast<DCPContent>(i);
1895                 if (d && d->reference_video()) {
1896                         return true;
1897                 }
1898         }
1899
1900         return false;
1901 }
1902
1903 bool
1904 Film::references_dcp_audio () const
1905 {
1906         for (auto i: _playlist->content()) {
1907                 auto d = dynamic_pointer_cast<DCPContent>(i);
1908                 if (d && d->reference_audio()) {
1909                         return true;
1910                 }
1911         }
1912
1913         return false;
1914 }
1915
1916
1917 bool
1918 Film::contains_atmos_content () const
1919 {
1920         for (auto i: _playlist->content()) {
1921                 if (i->atmos) {
1922                         return true;
1923                 }
1924         }
1925
1926         return false;
1927 }
1928
1929
1930 list<DCPTextTrack>
1931 Film::closed_caption_tracks () const
1932 {
1933         list<DCPTextTrack> tt;
1934         for (auto i: content()) {
1935                 for (auto j: i->text) {
1936                         /* XXX: Empty DCPTextTrack ends up being a magic value here - the "unknown" or "not specified" track */
1937                         auto dtt = j->dcp_track().get_value_or(DCPTextTrack());
1938                         if (j->type() == TextType::CLOSED_CAPTION && find(tt.begin(), tt.end(), dtt) == tt.end()) {
1939                                 tt.push_back (dtt);
1940                         }
1941                 }
1942         }
1943
1944         return tt;
1945 }
1946
1947 void
1948 Film::set_marker (dcp::Marker type, DCPTime time)
1949 {
1950         FilmChangeSignaller ch (this, Property::MARKERS);
1951         _markers[type] = time;
1952 }
1953
1954
1955 void
1956 Film::unset_marker (dcp::Marker type)
1957 {
1958         FilmChangeSignaller ch (this, Property::MARKERS);
1959         _markers.erase (type);
1960 }
1961
1962
1963 void
1964 Film::clear_markers ()
1965 {
1966         FilmChangeSignaller ch (this, Property::MARKERS);
1967         _markers.clear ();
1968 }
1969
1970
1971 void
1972 Film::set_ratings (vector<dcp::Rating> r)
1973 {
1974         FilmChangeSignaller ch (this, Property::RATINGS);
1975         _ratings = r;
1976 }
1977
1978 void
1979 Film::set_content_versions (vector<string> v)
1980 {
1981         FilmChangeSignaller ch (this, Property::CONTENT_VERSIONS);
1982         _content_versions = v;
1983 }
1984
1985
1986 void
1987 Film::set_name_language (dcp::LanguageTag lang)
1988 {
1989         FilmChangeSignaller ch (this, Property::NAME_LANGUAGE);
1990         _name_language = lang;
1991 }
1992
1993
1994 void
1995 Film::set_release_territory (optional<dcp::LanguageTag::RegionSubtag> region)
1996 {
1997         FilmChangeSignaller ch (this, Property::RELEASE_TERRITORY);
1998         _release_territory = region;
1999 }
2000
2001
2002 void
2003 Film::set_status (dcp::Status s)
2004 {
2005         FilmChangeSignaller ch (this, Property::STATUS);
2006         _status = s;
2007 }
2008
2009
2010 void
2011 Film::set_version_number (int v)
2012 {
2013         FilmChangeSignaller ch (this, Property::VERSION_NUMBER);
2014         _version_number = v;
2015 }
2016
2017
2018 void
2019 Film::set_chain (optional<string> c)
2020 {
2021         FilmChangeSignaller ch (this, Property::CHAIN);
2022         _chain = c;
2023 }
2024
2025
2026 void
2027 Film::set_distributor (optional<string> d)
2028 {
2029         FilmChangeSignaller ch (this, Property::DISTRIBUTOR);
2030         _distributor = d;
2031 }
2032
2033
2034 void
2035 Film::set_luminance (optional<dcp::Luminance> l)
2036 {
2037         FilmChangeSignaller ch (this, Property::LUMINANCE);
2038         _luminance = l;
2039 }
2040
2041
2042 void
2043 Film::set_facility (optional<string> f)
2044 {
2045         FilmChangeSignaller ch (this, Property::FACILITY);
2046         _facility = f;
2047 }
2048
2049
2050 void
2051 Film::set_studio (optional<string> s)
2052 {
2053         FilmChangeSignaller ch (this, Property::STUDIO);
2054         _studio = s;
2055 }
2056
2057
2058 optional<DCPTime>
2059 Film::marker (dcp::Marker type) const
2060 {
2061         auto i = _markers.find (type);
2062         if (i == _markers.end()) {
2063                 return {};
2064         }
2065         return i->second;
2066 }
2067
2068 shared_ptr<InfoFileHandle>
2069 Film::info_file_handle (DCPTimePeriod period, bool read) const
2070 {
2071         return std::make_shared<InfoFileHandle>(_info_file_mutex, info_file(period), read);
2072 }
2073
2074 InfoFileHandle::InfoFileHandle (boost::mutex& mutex, boost::filesystem::path file, bool read)
2075         : _lock (mutex)
2076         , _file (file)
2077 {
2078         if (read) {
2079                 _handle = fopen_boost (file, "rb");
2080                 if (!_handle) {
2081                         throw OpenFileError (file, errno, OpenFileError::READ);
2082                 }
2083         } else {
2084                 auto const exists = boost::filesystem::exists (file);
2085                 if (exists) {
2086                         _handle = fopen_boost (file, "r+b");
2087                 } else {
2088                         _handle = fopen_boost (file, "wb");
2089                 }
2090
2091                 if (!_handle) {
2092                         throw OpenFileError (file, errno, exists ? OpenFileError::READ_WRITE : OpenFileError::WRITE);
2093                 }
2094         }
2095 }
2096
2097 InfoFileHandle::~InfoFileHandle ()
2098 {
2099         fclose (_handle);
2100 }
2101
2102
2103 /** Add FFOC and LFOC markers to a list if they are not already there */
2104 void
2105 Film::add_ffoc_lfoc (Markers& markers) const
2106 {
2107         if (markers.find(dcp::Marker::FFOC) == markers.end()) {
2108                 markers[dcp::Marker::FFOC] = dcpomatic::DCPTime::from_frames(1, video_frame_rate());
2109         }
2110
2111         if (markers.find(dcp::Marker::LFOC) == markers.end()) {
2112                 markers[dcp::Marker::LFOC] = length() - DCPTime::from_frames(1, video_frame_rate());
2113         }
2114 }
2115
2116
2117 void
2118 Film::set_temp_version (bool t)
2119 {
2120         FilmChangeSignaller ch (this, Property::TEMP_VERSION);
2121         _temp_version = t;
2122 }
2123
2124
2125 void
2126 Film::set_pre_release (bool p)
2127 {
2128         FilmChangeSignaller ch (this, Property::PRE_RELEASE);
2129         _pre_release = p;
2130 }
2131
2132
2133 void
2134 Film::set_red_band (bool r)
2135 {
2136         FilmChangeSignaller ch (this, Property::RED_BAND);
2137         _red_band = r;
2138 }
2139
2140
2141 void
2142 Film::set_two_d_version_of_three_d (bool t)
2143 {
2144         FilmChangeSignaller ch (this, Property::TWO_D_VERSION_OF_THREE_D);
2145         _two_d_version_of_three_d = t;
2146 }
2147
2148
2149 void
2150 Film::set_audio_language (optional<dcp::LanguageTag> language)
2151 {
2152         FilmChangeSignaller ch (this, Property::AUDIO_LANGUAGE);
2153         _audio_language = language;
2154 }
2155
2156
2157 void
2158 Film::set_audio_frame_rate (int rate)
2159 {
2160         FilmChangeSignaller ch (this, Property::AUDIO_FRAME_RATE);
2161         _audio_frame_rate = rate;
2162 }
2163
2164
2165 bool
2166 Film::has_sign_language_video_channel () const
2167 {
2168         return _audio_channels >= static_cast<int>(dcp::Channel::SIGN_LANGUAGE);
2169 }
2170
2171
2172 void
2173 Film::set_sign_language_video_language (optional<dcp::LanguageTag> lang)
2174 {
2175         FilmChangeSignaller ch (this, Property::SIGN_LANGUAGE_VIDEO_LANGUAGE);
2176         _sign_language_video_language = lang;
2177 }
2178