Ignore missing asset errors.
[libdcp.git] / src / dcp.cc
1 /*
2     Copyright (C) 2012-2014 Carl Hetherington <cth@carlh.net>
3
4     This program is free software; you can redistribute it and/or modify
5     it under the terms of the GNU General Public License as published by
6     the Free Software Foundation; either version 2 of the License, or
7     (at your option) any later version.
8
9     This program is distributed in the hope that it will be useful,
10     but WITHOUT ANY WARRANTY; without even the implied warranty of
11     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12     GNU General Public License for more details.
13
14     You should have received a copy of the GNU General Public License
15     along with this program; if not, write to the Free Software
16     Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
17
18 */
19
20 /** @file  src/dcp.cc
21  *  @brief DCP class.
22  */
23
24 #include "dcp.h"
25 #include "sound_mxf.h"
26 #include "picture_mxf.h"
27 #include "subtitle_content.h"
28 #include "mono_picture_mxf.h"
29 #include "stereo_picture_mxf.h"
30 #include "util.h"
31 #include "metadata.h"
32 #include "exceptions.h"
33 #include "reel.h"
34 #include "cpl.h"
35 #include "signer.h"
36 #include "compose.hpp"
37 #include "AS_DCP.h"
38 #include "decrypted_kdm.h"
39 #include "decrypted_kdm_key.h"
40 #include <xmlsec/xmldsig.h>
41 #include <xmlsec/app.h>
42 #include <libxml++/libxml++.h>
43 #include <boost/filesystem.hpp>
44 #include <boost/algorithm/string.hpp>
45 #include <boost/lexical_cast.hpp>
46 #include <sstream>
47 #include <iomanip>
48 #include <cassert>
49 #include <iostream>
50
51 using std::string;
52 using std::list;
53 using std::stringstream;
54 using std::ostream;
55 using std::make_pair;
56 using std::map;
57 using std::cout;
58 using std::exception;
59 using boost::shared_ptr;
60 using boost::lexical_cast;
61 using boost::algorithm::starts_with;
62 using namespace dcp;
63
64 DCP::DCP (boost::filesystem::path directory)
65         : _directory (directory)
66 {
67         boost::filesystem::create_directories (directory);
68         _directory = boost::filesystem::canonical (_directory);
69 }
70
71 template<class T> void
72 survivable_error (bool keep_going, list<string>* errors, T const & e)
73 {
74         if (keep_going && errors) {
75                 errors->push_back (e.what ());
76         } else {
77                 throw e;
78         }
79 }
80
81 void
82 DCP::read (bool keep_going, list<string>* errors)
83 {
84         /* Read the ASSETMAP */
85         
86         boost::filesystem::path asset_map_file;
87         if (boost::filesystem::exists (_directory / "ASSETMAP")) {
88                 asset_map_file = _directory / "ASSETMAP";
89         } else if (boost::filesystem::exists (_directory / "ASSETMAP.xml")) {
90                 asset_map_file = _directory / "ASSETMAP.xml";
91         } else {
92                 boost::throw_exception (DCPReadError (String::compose ("could not find AssetMap file `%1'", asset_map_file.string())));
93         }
94
95         cxml::Document asset_map ("AssetMap");
96         asset_map.read_file (asset_map_file);
97         list<shared_ptr<cxml::Node> > asset_nodes = asset_map.node_child("AssetList")->node_children ("Asset");
98         map<string, boost::filesystem::path> paths;
99         for (list<shared_ptr<cxml::Node> >::const_iterator i = asset_nodes.begin(); i != asset_nodes.end(); ++i) {
100                 if ((*i)->node_child("ChunkList")->node_children("Chunk").size() != 1) {
101                         boost::throw_exception (XMLError ("unsupported asset chunk count"));
102                 }
103                 string p = (*i)->node_child("ChunkList")->node_child("Chunk")->string_child ("Path");
104                 if (starts_with (p, "file://")) {
105                         p = p.substr (7);
106                 }
107                 paths.insert (make_pair ((*i)->string_child ("Id"), p));
108         }
109
110         /* Read all the assets from the asset map */
111         for (map<string, boost::filesystem::path>::const_iterator i = paths.begin(); i != paths.end(); ++i) {
112                 boost::filesystem::path path = _directory / i->second;
113
114                 if (!boost::filesystem::exists (path)) {
115                         survivable_error (keep_going, errors, FileError ("file not found", path, -1));
116                         continue;
117                 }
118                 
119                 if (boost::algorithm::ends_with (path.string(), ".xml")) {
120                         xmlpp::DomParser* p = new xmlpp::DomParser;
121                         try {
122                                 p->parse_file (path.string());
123                         } catch (std::exception& e) {
124                                 delete p;
125                                 continue;
126                         }
127                         
128                         string const root = p->get_document()->get_root_node()->get_name ();
129                         delete p;
130                         
131                         if (root == "CompositionPlaylist") {
132                                 _assets.push_back (shared_ptr<CPL> (new CPL (path)));
133                         } else if (root == "DCSubtitle") {
134                                 _assets.push_back (shared_ptr<SubtitleContent> (new SubtitleContent (path)));
135                         }
136                 } else if (boost::algorithm::ends_with (path.string(), ".mxf")) {
137                         ASDCP::EssenceType_t type;
138                         if (ASDCP::EssenceType (path.string().c_str(), type) != ASDCP::RESULT_OK) {
139                                 throw DCPReadError ("Could not find essence type");
140                         }
141                         switch (type) {
142                                 case ASDCP::ESS_UNKNOWN:
143                                 case ASDCP::ESS_MPEG2_VES:
144                                         throw DCPReadError ("MPEG2 video essences are not supported");
145                                 case ASDCP::ESS_JPEG_2000:
146                                         _assets.push_back (shared_ptr<MonoPictureMXF> (new MonoPictureMXF (path)));
147                                         break;
148                                 case ASDCP::ESS_PCM_24b_48k:
149                                 case ASDCP::ESS_PCM_24b_96k:
150                                         _assets.push_back (shared_ptr<SoundMXF> (new SoundMXF (path)));
151                                         break;
152                                 case ASDCP::ESS_JPEG_2000_S:
153                                         _assets.push_back (shared_ptr<StereoPictureMXF> (new StereoPictureMXF (path)));
154                                         break;
155                                 default:
156                                         throw DCPReadError ("Unknown MXF essence type");
157                                 }
158                 }
159         }
160
161         list<shared_ptr<CPL> > cpl = cpls ();
162         for (list<shared_ptr<CPL> >::const_iterator i = cpl.begin(); i != cpl.end(); ++i) {
163                 (*i)->resolve_refs (list_of_type<Asset, Object> (assets ()));
164         }
165 }
166
167 bool
168 DCP::equals (DCP const & other, EqualityOptions opt, boost::function<void (NoteType, string)> note) const
169 {
170         if (_assets.size() != other._assets.size()) {
171                 note (ERROR, String::compose ("Asset counts differ: %1 vs %2", _assets.size(), other._assets.size()));
172                 return false;
173         }
174
175         list<shared_ptr<Asset> >::const_iterator a = _assets.begin ();
176         list<shared_ptr<Asset> >::const_iterator b = other._assets.begin ();
177
178         while (a != _assets.end ()) {
179                 if (!(*a)->equals (*b, opt, note)) {
180                         return false;
181                 }
182                 ++a;
183                 ++b;
184         }
185
186         return true;
187 }
188
189 void
190 DCP::add (boost::shared_ptr<Asset> asset)
191 {
192         _assets.push_back (asset);
193 }
194
195 class AssetComparator
196 {
197 public:
198         bool operator() (shared_ptr<const Content> a, shared_ptr<const Content> b) {
199                 return a->id() < b->id();
200         }
201 };
202
203 bool
204 DCP::encrypted () const
205 {
206         list<shared_ptr<CPL> > cpl = cpls ();
207         for (list<shared_ptr<CPL> >::const_iterator i = cpl.begin(); i != cpl.end(); ++i) {
208                 if ((*i)->encrypted ()) {
209                         return true;
210                 }
211         }
212
213         return false;
214 }
215
216 void
217 DCP::add (DecryptedKDM const & kdm)
218 {
219         list<DecryptedKDMKey> keys = kdm.keys ();
220         list<shared_ptr<CPL> > cpl = cpls ();
221         
222         for (list<shared_ptr<CPL> >::iterator i = cpl.begin(); i != cpl.end(); ++i) {
223                 for (list<DecryptedKDMKey>::iterator j = keys.begin(); j != keys.end(); ++j) {
224                         if (j->cpl_id() == (*i)->id()) {
225                                 (*i)->add (kdm);
226                         }                               
227                 }
228         }
229 }
230
231 boost::filesystem::path
232 DCP::write_pkl (Standard standard, string pkl_uuid, XMLMetadata metadata, shared_ptr<const Signer> signer) const
233 {
234         boost::filesystem::path p = _directory;
235         stringstream s;
236         s << pkl_uuid << "_pkl.xml";
237         p /= s.str();
238
239         xmlpp::Document doc;
240         xmlpp::Element* pkl;
241         if (standard == INTEROP) {
242                 pkl = doc.create_root_node("PackingList", "http://www.digicine.com/PROTO-ASDCP-PKL-20040311#");
243         } else {
244                 pkl = doc.create_root_node("PackingList", "http://www.smpte-ra.org/schemas/429-8/2007/PKL");
245         }
246         
247         if (signer) {
248                 pkl->set_namespace_declaration ("http://www.w3.org/2000/09/xmldsig#", "dsig");
249         }
250
251         pkl->add_child("Id")->add_child_text ("urn:uuid:" + pkl_uuid);
252
253         /* XXX: this is a bit of a hack */
254         assert (cpls().size() > 0);
255         pkl->add_child("AnnotationText")->add_child_text (cpls().front()->annotation_text ());
256         
257         pkl->add_child("IssueDate")->add_child_text (metadata.issue_date);
258         pkl->add_child("Issuer")->add_child_text (metadata.issuer);
259         pkl->add_child("Creator")->add_child_text (metadata.creator);
260
261         xmlpp::Element* asset_list = pkl->add_child("AssetList");
262         for (list<shared_ptr<Asset> >::const_iterator i = _assets.begin(); i != _assets.end(); ++i) {
263                 (*i)->write_to_pkl (asset_list, standard);
264         }
265
266         if (signer) {
267                 signer->sign (pkl, standard);
268         }
269                 
270         doc.write_to_file (p.string (), "UTF-8");
271         return p.string ();
272 }
273
274 /** Write the VOLINDEX file.
275  *  @param standard DCP standard to use (INTEROP or SMPTE)
276  */
277 void
278 DCP::write_volindex (Standard standard) const
279 {
280         boost::filesystem::path p = _directory;
281         switch (standard) {
282         case INTEROP:
283                 p /= "VOLINDEX";
284                 break;
285         case SMPTE:
286                 p /= "VOLINDEX.xml";
287                 break;
288         default:
289                 assert (false);
290         }
291
292         xmlpp::Document doc;
293         xmlpp::Element* root;
294
295         switch (standard) {
296         case INTEROP:
297                 root = doc.create_root_node ("VolumeIndex", "http://www.digicine.com/PROTO-ASDCP-AM-20040311#");
298                 break;
299         case SMPTE:
300                 root = doc.create_root_node ("VolumeIndex", "http://www.smpte-ra.org/schemas/429-9/2007/AM");
301                 break;
302         default:
303                 assert (false);
304         }
305         
306         root->add_child("Index")->add_child_text ("1");
307         doc.write_to_file (p.string (), "UTF-8");
308 }
309
310 void
311 DCP::write_assetmap (Standard standard, string pkl_uuid, int pkl_length, XMLMetadata metadata) const
312 {
313         boost::filesystem::path p = _directory;
314         
315         switch (standard) {
316         case INTEROP:
317                 p /= "ASSETMAP";
318                 break;
319         case SMPTE:
320                 p /= "ASSETMAP.xml";
321                 break;
322         default:
323                 assert (false);
324         }
325
326         xmlpp::Document doc;
327         xmlpp::Element* root;
328
329         switch (standard) {
330         case INTEROP:
331                 root = doc.create_root_node ("AssetMap", "http://www.digicine.com/PROTO-ASDCP-AM-20040311#");
332                 break;
333         case SMPTE:
334                 root = doc.create_root_node ("AssetMap", "http://www.smpte-ra.org/schemas/429-9/2007/AM");
335                 break;
336         default:
337                 assert (false);
338         }
339
340         root->add_child("Id")->add_child_text ("urn:uuid:" + make_uuid());
341         root->add_child("AnnotationText")->add_child_text ("Created by " + metadata.creator);
342
343         switch (standard) {
344         case INTEROP:
345                 root->add_child("VolumeCount")->add_child_text ("1");
346                 root->add_child("IssueDate")->add_child_text (metadata.issue_date);
347                 root->add_child("Issuer")->add_child_text (metadata.issuer);
348                 root->add_child("Creator")->add_child_text (metadata.creator);
349                 break;
350         case SMPTE:
351                 root->add_child("Creator")->add_child_text (metadata.creator);
352                 root->add_child("VolumeCount")->add_child_text ("1");
353                 root->add_child("IssueDate")->add_child_text (metadata.issue_date);
354                 root->add_child("Issuer")->add_child_text (metadata.issuer);
355                 break;
356         default:
357                 assert (false);
358         }
359                 
360         xmlpp::Node* asset_list = root->add_child ("AssetList");
361
362         xmlpp::Node* asset = asset_list->add_child ("Asset");
363         asset->add_child("Id")->add_child_text ("urn:uuid:" + pkl_uuid);
364         asset->add_child("PackingList")->add_child_text ("true");
365         xmlpp::Node* chunk_list = asset->add_child ("ChunkList");
366         xmlpp::Node* chunk = chunk_list->add_child ("Chunk");
367         chunk->add_child("Path")->add_child_text (pkl_uuid + "_pkl.xml");
368         chunk->add_child("VolumeIndex")->add_child_text ("1");
369         chunk->add_child("Offset")->add_child_text ("0");
370         chunk->add_child("Length")->add_child_text (lexical_cast<string> (pkl_length));
371         
372         for (list<shared_ptr<Asset> >::const_iterator i = _assets.begin(); i != _assets.end(); ++i) {
373                 (*i)->write_to_assetmap (asset_list, _directory);
374         }
375
376         /* This must not be the _formatted version otherwise signature digests will be wrong */
377         doc.write_to_file (p.string (), "UTF-8");
378 }
379
380 /** Write all the XML files for this DCP.
381  *  @param standand INTEROP or SMPTE.
382  *  @param metadata Metadata to use for PKL and asset map files.
383  *  @param signer Signer to use, or 0.
384  */
385 void
386 DCP::write_xml (
387         Standard standard,
388         XMLMetadata metadata,
389         shared_ptr<const Signer> signer
390         )
391 {
392         list<shared_ptr<CPL> > cpl = cpls ();
393         for (list<shared_ptr<CPL> >::const_iterator i = cpl.begin(); i != cpl.end(); ++i) {
394                 string const filename = (*i)->id() + "_cpl.xml";
395                 (*i)->write_xml (_directory / filename, standard, signer);
396         }
397
398         string const pkl_uuid = make_uuid ();
399         boost::filesystem::path const pkl_path = write_pkl (standard, pkl_uuid, metadata, signer);
400         
401         write_volindex (standard);
402         write_assetmap (standard, pkl_uuid, boost::filesystem::file_size (pkl_path), metadata);
403 }
404
405 list<shared_ptr<CPL> >
406 DCP::cpls () const
407 {
408         return list_of_type<Asset, CPL> (_assets);
409 }